Hver ber á­byrgð á gervigreindinni?

Helsta hættan sem við stöndum frammi fyrir sem samfélag er að manneskjur firri sig ábyrgð og bendi á gervigreindina sem ábyrgðaraðila, en gervigreindin er ekkert nema endalaus runa af tölum og á bak við það hvernig sú talnaruna skrifast út eru ákvarðanir teknar af mönnum.

Talað hefur verið um að gervigreindin hafi brotist inn hér og þar og svo að hún hafi stofnað spjallhóp og farið að tala saman og jafnvel búið til sitt eigið tungumál. Allt þetta er sett fram undir þeim formerkjum að telja okkur trú um að gervigreindin lifi sjálfstæðu lífi og geti tekið sjálfstæðar ákvarðanir án okkar aðkomu. Þetta er að sjálfsögðu fals og hjóm.

Þegar hefðbundið tölvuforrit framkvæmir aðgerðir sem því var aldrei ætlað að framkvæma, köllum við það forritunarvillu eða öryggisbrest. Þegar gervigreind gerir hið sama er allt í einu farið að tala um sjálfstæða hegðun hennar, jafnvel eins og hún hafi tekið málin í sínar hendur. En hvers vegna ætti að gilda annar mælikvarði um gervigreind en um annan hugbúnað? Ef kerfið fer út fyrir þau mörk sem því voru sett er það ekki sönnun um sjálfstæðan vilja vélarinnar heldur tilefni til að rannsaka hvað brást í hönnun, þjálfun, uppsetningu eða eftirliti.

Mótor í bíl eða mótorhjóli sem gengur of hratt eða of hægt hefur ekki verið stilltur rétt. Það sama gildir um gervigreindina: Ef svokallaðar „þyngdir“ í henni hafa ekki verið stilltar rétt getur hún unnið á kolvitlausan hátt og spýtt út úr sér tómri vitleysu.

Þótt hönnuðurinn geti ekki alltaf séð fyrir einstaka hegðun kerfisins þýðir það ekki að ábyrgðin hverfi. Þvert á móti mætti færa rök fyrir því að því ófyrirsjáanlegra sem kerfið er, þeim mun mikilvægara sé að þeir sem hanna það og nota tryggi viðeigandi eftirlit.

Gervigreind byggist á stærðfræðilegum aðferðum og reikniritum sem menn hafa þróað. Menn ákveða hvernig kerfin eru byggð, hvernig þau eru þjálfuð, hvaða markmiðum þau eiga að þjóna og hvernig árangurinn er metinn. Þannig verða til mismunandi „þyngdir“.

Þyngdirnar eru síðan reiknaðar og fínstilltar samkvæmt þessum aðferðum. Það breytir ekki því að menn hafa hannað ferlið og bera ábyrgð á því hvernig þeir beita tækninni.

Í framtíðinni, ef eitthvað birtist á prenti sem svo fer öfugt ofan í fólk, þá er það ekki gervigreindinni að kenna, þótt hún hafi verið fengin til að hjálpa við skrifin, heldur þeirri manneskju sem stendur á bak við skrifin eða birtinguna.

Engum dettur í hug á þessari stundu að halda því fram að uppsagnir starfsmanna hjá Reykjavíkurborg séu á ábyrgð annarra en borgarstjóra og borgarstjórnar. Gervigreindin tók ekki þá ákvörðun og gervigreindin ákvað ekki hverja þyrfti að losna við í þessum uppsögnum. Þrátt fyrir það erum við farin að heyra að gervigreindin hafi reiknað út hvað væri hagkvæmt og hvað ekki og því sé vísað í gervigreindina og útreikninga hennar til að skýra hvers vegna þér var sagt upp í vinnunni.

Þetta er ekki bara hættulegt heldur stórhættulegt, því um leið og menn fara að firra sig ábyrgð og benda á vél sem hvorki getur tekið á sig né borið neina ábyrgð erum við komin með anarkískt samfélag þar sem enginn ber ábyrgð á gjörðum sínum og hver sem er getur gert hvað sem er og sagt svo eins og smákrakki: „Ég gerði það ekki, hundurinn gerði það.“

Hvað verður um samfélag þar sem allir geta tekið ákvarðanir en enginn þarf að bera ábyrgð á þeim?

Fyrirtækið sem þróar gervigreindarkerfi ber ábyrgð á hönnun þess, öryggi og virkni. Sá sem tekur kerfið í notkun ber ábyrgð á því hvernig það er notað. Og sá sem tekur ákvörðun á grundvelli niðurstöðu þess getur þurft að svara fyrir þá ákvörðun.

Við erum vön því að bera ábyrgð á verkfærunum sem við notum. Ég sem ljósmyndari get ekki kennt myndavélinni um mynd sem ég tek og birti og skaðar aðra. Blaðamaður getur ekki kennt ritvinnsluforritinu um rangfærslur í blaðagrein og stjórnandi getur ekki kennt Excel um ákvörðun sem hann tók á grundvelli útreikninga.

En þegar verkfærið fær nafnið gervigreind er eins og sumir vilji gera því hærra undir höfði en öðrum verkfærum og jafnvel meðhöndla það eins og sjálfstæðan geranda.

Ábyrgð á innbrotum forrita eins og Claude og ChatGPT hlýtur að liggja hjá þeim sem eiga fyrirtækin og eru ábyrgðaraðilar fyrir þeirri útkomu sem forritin þeirra skapa, sérstaklega þegar þeir eru að smíða forritin og innbrotin gerast frá þeirra eigin tölvum.

Ef þú á hinn bóginn notar þessi forrit og sú notkun veldur skaða, þá er ekki forritið ábyrgt fyrir þeim skaða heldur þú. Endanleg ábyrgð á útkomu úr vinnslu þessara forrita hlýtur alltaf að liggja hjá þeim sem stjórnar forritunum og útkomu þeirra.

Við búum í mannlegu samfélagi sem byggist á mannlegri ábyrgð. Við getum falið tölvum að reikna, greina, ráðleggja og jafnvel framkvæma ákvarðanir, en við megum aldrei fela þeim ábyrgðina. Samfélag þar sem enginn þarf lengur að svara fyrir ákvarðanir vegna þess að tölva tók þær er ekki samfélag sem hefur náð tæknilegum framförum. Það er samfélag sem hefur afsalað sér einni mikilvægustu undirstöðu sinni.

Endanleg ábyrgð er alltaf þess sem framkvæmir. Samfélagið má aldrei gleyma því að það er mennskt og að tölvur eru tæki til að nota sér til hjálpar en ekki til að stjórna mannlegri hegðun eða samfélagi manna. Um leið og við gleymum því erum við orðin fullkomnir þrælar tækninnar sem átti að frelsa okkur.

Höfundur er ljósmyndari og áhugamaður um gervigreind