Fórnar­kostnaður sam­félags­miðla­banns

Undanfarna mánuði hafa sífellt fleiri raddir bæst í hóp þeirra sem kalla eftir samfélagsmiðlabanni fyrir yngri börn og hefur nýlega komið fram þingmannamál sem leggur slíkt bann til og miðar við 15 eða 16 ára aldur.

Stuðningur við bann er skiljanlegt. Foreldrar hafa áhyggjur. Kennarar eru úrvinda. Sögur af kvíða, sjálfsskaða og endalausu skruni eru allt of algengar og tengingar við skaðsemi samfélagsmiðla eru sannfærandi. Það virðist því liggja í augum uppi: Ef samfélagsmiðlar skaða börn, er þá ekki eðlileg krafa að takmarka aðgengi þeirra að miðlunum?

Ég tengi við þessa löngun, að vilja losna við það sem er að valda börnunum okkar skaða. Flestir foreldrar gera það.

En áður en við tökum þessa ákvörðun finnst mér mikilvægt að skoða vel hvort lausnin muni laga vandann og til þess vil ég byrja á að varpa fram spurningu:

Hvað þarf til að framfylgja slíku banni og hvernig komum við í veg fyrir að skapa önnur, mögulega alvarlegri vandamál í leiðinni?

Hvernig aldur er staðfestur

Samfélagsmiðlabann getur ekki virkað án þess að hægt sé að meta á áreiðanlegan hátt aldur notenda. Til þess að framfylgja lögum kaupa miðlarnir þjónustu fyrirtækja sem sérhæfa sig í aldursvottun.

Algengasta aðferðin til að votta aldur er andlitsgreining. Notandi hleður upp mynd af sér eða tekur stutt myndband og gervigreindarkerfi greinir andlitið og metur hvort viðkomandi sé yfir eða undir ákveðnum aldri.

Fyrirtækin segja að myndinni/myndbandinu sé eytt strax. Á yfirborðinu hljómar þetta einfalt, fljótlegt og í samræmi við kröfur um persónuvernd.

En myndin er ekki það eina sem skiptir máli.

Til að meta aldur þarf kerfið að greina fjarlægðir milli andlitsdrátta, hlutföll og önnur einstök einkenni. Með öðrum orðum: andlitið er greint og unnið með það í formi mælanlegra gagna.

Myndinni kann að vera eytt í kjölfarið en hvort eftir verður varanlegt sniðmát – stærðfræðileg framsetning andlitsins – og hvort því sé einnig eytt, er ekki skýrt.

Nafnlaus lífkenni eru ekki nafnlaus

Sniðmát sem getur orðið til við andlitsgreiningu inniheldur ekki nafnið þitt en um leið og mismunandi kerfi byrja að tengjast verður nafnleyndin brothætt.

Ef sniðmát af andliti sem notað er til auðkenningar eða staðfestingar á aldri er síðar tengt við kerfi sem notuð eru til að aflæsa tækjum, fyrir stafræn skilríki, landamæraeftirlit eða aðra þjónustu, verður það rekjanlegt.

Kerfi sem sýsla með gögnin okkar eru sjaldan einangruð. Þau tengjast á marga vegu og eiga það til að varðveitast og vera nýtt á óvæntan máta.

Við höfum þegar séð hvernig gögnum sem er safnað í einum tilgangi geta verið endurnýtt í öðrum. Nýlegasta dæmið er í Bandaríkjunum þar sem ríkisstofnanir eins og ICE hafa varið milljónum dollara í að kaupa staðsetningargögn af gagnamiðlurum. Gögnin hafa svo verið notuð til að leita uppi og fangelsa fólk.

Um er að ræða gögn sem við gefum frá okkur, án mikillar hugsunar, þegar við notum samfélagsmiðla, öpp og netleiki.

Þegar gögnin okkar eru seld inn á þessa ógagnsæju gagnamarkaði verður mjög erfitt að rekja þau eða fjarlægja þau að fullu og það verður afar erfitt að spá fyrir um eða stjórna því hvernig þau kunna að verða notuð í framtíðinni.

Það sem rannsókn leiddi í ljós

Árið 2025 rannsakaði þýska netöryggisfyrirtækið Mint Secure fyrirtækið Yoti, sem m.a. Facebook, Instagram og TikTok nota til að votta aldur notenda. Þrátt fyrir að markaðssetja sig sem persónuverndarmiðað fyrirtæki leiddi rannsóknin í ljós að fyrirtækið safnaði og deildi gögnum notenda með þriðju aðilum þrátt fyrir loforð um persónuvernd.

Vandinn er að það skortir eftirlit og aðhald með fyrirtækjum eins og Yoti. Fyrirtækin votta sig oft sjálf eða treysta á einkarekin úttektarkerfi. Reglulegt, óháð og virkt opinbert eftirlit er takmarkað. Persónuverndarstofnanir víðs vegar um Evrópu eru vanfjármagnaðar og grípa yfirleitt aðeins inn í eftir að brot hafa átt sér stað.

Ef Ísland myndi fara þá leið að setja samfélagsmiðlabann þyrfti að svara nokkrum grundvallarspurningum skýrt:

• Hver hefur reglulegt eftirlit með þeim kerfum sem notuð eru til að votta aldur?
• Hvað nákvæmlega er geymt og hversu lengi?
• Er hægt að endurnýta gögnin eða sameina þau öðrum kerfum?
• Hver ber ábyrgð ef gagnaleki verður?
• Geta fjölskyldur neitað þátttöku án þess að útiloka börn sín frá félagslífi og samfélagslegri umræðu?

Eftirlitskerfi hafa tilhneigingu til að bólgna út

Sagan segir okkur að eftirlitstæki haldast sjaldan bundin við upprunalegan tilgang sinn.

Eftir 11. september 2001 settu Bandaríkin víðtæk eftirlitslög sem voru kynnt sem „aðeins fyrir hryðjuverkamenn“. Þessar heimildir eru nú notaðar reglulega í fíkniefnamálum, innflytjendamálum og til að fylgjast með pólitískum mótmælum.

Félagslegt stigakerfi (social credit system) í Kína hófst með rökstuðningi um almannaöryggi og þróaðist yfir í mun víðtækara eftirlit með hegðun, fjármálum og félagslegum tengslum borgaranna.

Opinber stefnumótun krefst meðalhófs. Við verðum að spyrja hvort krafa um lífkenni til að fá aðgang að netsamfélaginu séu réttlætanleg viðbrögð við þeim vanda sem við viljum leysa, því þegar slík krafa verður að venju verður mjög auðvelt að útvíkka slíkt kerfi.

Börnin sem við erum að reyna að vernda

Það er viss mótsögn sem felst í því að ætla að vernda börn gegn skaðlegum áhrifum samfélagsmiðla með því að krefjast þess að þau afhendi lífkenni sín í ógagnsæ, hagnaðardrifin kerfi sem þau geta ekki veitt marktækt samþykki fyrirþ

Ef aldursvottun verður skylda standa fjölskyldur frammi fyrir erfiðu vali: að einangra börnin sín frá stafrænu félagslífi eða afhenda viðkvæmar persónuupplýsingar til fyrirtækja sem stunda ógagnsæja viðskiptahætti og sýsla með gögn notenda sinna.

Ef viðkvæm persónugögn rata inn í samtengd kerfi er afar erfitt að takmarka þau eða eyða þeim að fullu. Ákvarðanir sem teknar eru í dag gætu fylgt ungu fólki fram á fullorðinsár, löngu eftir að núverandi umræða er afstaðin.

Vernd án eftirlits

Við þurfum ekki að velja á milli þess að vernda börn og vernda borgaraleg réttindi.

Aðrar leiðir eru til. Sumar krefjast alþjóðlegrar samhæfingar: að krefjast ábyrgðar af samfélagsmiðlafyrirtækjunum. Við gerum það með því að skylda fyrirtæki að sýna fram á að vettvangar þeirra valdi ekki skaða. Með því að banna ávanabindandi hönnunareiginleika eins og endalaust skrun og sjálfvirka spilun. Og jafnvel með því að banna viðskiptamódel sem hagnast á söfnun og sölu persónuupplýsinga.

Aðrar aðgerðir sem við gætum gripið strax til væru bæði áhrifaríkari og minna íþyngjandi en bann við samfélagsmiðlum: fræðsla um stafrænt læsi og stafræna borgaravitund, stuðningur við foreldra og aðgengileg geðheilbrigðisþjónusta.

Ísland eitt og sér getur ekki þvingað alþjóðleg tæknifyrirtæki til breytinga. Það sem við getum stjórnað er hvort við bregðumst við skaðsemi viðskiptamódels þeirra með því að byggja eftirlitskerfi eða með því að fjárfesta í mikilvægum samfélagslegum innviðum og lausnum. Við getum fjárfest í menntun, geðheilbrigði og tekið þátt í norrænu og evrópsku samstarfi sem gerir kröfur um hönnun á mannvænni tækni.

Við á Íslandi erum líka fullfær um að fara okkar eigin leiðir. Við getum fjárfest í okkar eigin stafræna vettvangi, reknum án hagnaðarsjónarmiða, þar sem mikilvæg lýðræðisleg umræða er ekki knúin áfram af gagnasöfnun og algrími sem heldur athygli okkar með pólíriserandi reiðibeitum.

Vandinn sem samfélagsmiðlar hafa ýtt undir og græða á er flóknari en svo að hægt sé að leysa hann með banni. En lýðræðið krefst oft erfiðari lausna.

Börnin okkar eiga skilið vernd gegn skaða á netinu. Þau eiga líka skilið að alast upp í samfélagi þar sem þátttaka í opinberu lífi krefst þess ekki að þau afsali sér lífkennum sínum.

Ákvörðun um slíkt er líkleg til að móta mun meira en bara skjátíma unglinga. Hún mun ákvarða hvers konar lýðræði við skilum til barnanna sem við teljum okkur vera að vernda.

Höfundur er stofnmeðlimur Samtaka um mannvæna tækni.