Ert þú gervigreindarsóði?

Þegar talað er um ábyrga notkun gervigreindar þá er það tvenns konar í mínum huga — eitt er að passa upp á öryggi, persónuupplýsingar og önnur viðkvæm gögn. Annað er síðan ábyrgðin sem liggur í því hvað þú gerir við útkomuna úr gervigreindinni.

Ég hef orðið vör við notkun á gervigreind undanfarið sem ég myndi flokka sem óábyrga notkun — eða að minnsta kosti lítið ígrundaða notkun. Við þekkjum það flest í dag að gervigreindin hjálpar okkur að afkasta meira, en þýðir það að við séum að vinna minna? Nei, við virðumst framleiða meira og spá minna í afurðinni sem skilar sér í „AI slop“ eða gervigreindarrusli.

Ég rakst á lausn um daginn sem nýtir gervigreind í að framleiða dæmi fyrir notendur til að nota gervigreind. Já, þú þarft líklega að lesa þessa setningu aftur. Ég var forvitin og fór að skoða notkunartilfellin sem gervigreindin hafði búið til og rak augun í vægast sagt óhuggnalegt dæmi. Lausnin stakk upp á því að fá gervigreind til að skrifa minningargrein um ástvin fyrir þig. Er þetta virkilega verkefni sem við viljum úthýsa til gervigreindarinnar? Er tilgangurinn að spara tíma? Ég skil vel að það getur verið erfitt að skrifa minningargrein og við erum öll misgóðir pennar, en erum við ekki orðin of gjörn á að losa okkur við óþægindi?

Ég var líka á gervigreindarviðburði um daginn þar sem einstaklingur sýndi hvernig viðkomandi hafði nýtt sér ChatGPT til að búa til handrit fyrir sjónvarpsþátt byggt á bók sem er ekki lengur höfundarréttarvarin vegna aldurs. Hér spyr ég mig aftur: Er þetta verkefni sem við viljum úthýsa til gervigreindarinnar? Af hverju viljum við ekki eiga sköpunina sjálf? Hvernig myndi fólki líða, eftir að hafa horft á heila sjónvarpsseríu, að sjá að hún var skrifuð af ChatGPT? Kannski er þetta íhaldssöm hugsun hjá mér. Samstarfsfélagi minn spurði mig þegar við vorum að ræða þetta um daginn á skrifstofunni: „En ef gervigreindin skrifar betra handrit en fólk?“ Ég er ekki með svar við þessu.

Annað dæmi um óábyrga notkun á gervigreind sem ég hef heyrt af nýlega eru styrkumsóknir. Ég hef verið í samtölum við ólíka aðila sem sjá um að lesa yfir umsóknir í hina ýmsu sjóði og sagan er sú sama: Umsóknum hefur fjölgað gífurlega, þær eru orðnar miklu lengri og þær hljóma margar alveg eins. Það fer mikill tími í að lesa yfir þetta allt hjá viðkomandi aðilum og það virðist sem sumir umsækjendur hafi varla lesið yfir umsóknina sína sjálfir. Hérna langar mig að kynna til leiks hugtak sem ég rakst á um daginn: „Meat proxy“. Íslenskun á þessu fyrirbæri gæti kannski verið boðberakjöt. Þetta eru einstaklingar sem taka við afurð frá gervigreindarlausn og koma henni áfram án þess að bera ábyrgð á henni sjálf/ur – bara bein boðleið milli gervigreindarinnar og raunheimsins.

Þriðja dæmið er síðan einstaklingur sem vinnur í gæðastjórnun í hugbúnaðargerð. Viðkomandi tekur á móti viðbótum og nýjungum frá hugbúnaðarteyminu og prófar þær til að ganga úr skugga um að allt virki sem skyldi áður en þessu er bætt við hugbúnaðinn. Með tilkomu gervigreindar hefur aldrei verið jafn auðvelt að skrifa kóða og því er þessi einstaklingur að drukkna í verkefnum. Það er orðið algengt að forritarar komi lausnunum í gæðaprófun án þess að prófa útkomuna sjálf. Það er líka orðið algengt að verkefnalýsingin, sem gæðaprófarinn á að prófa lausnina á móti, sé skrifuð af gervigreind og þau sem bera ábyrgð á verkefnalýsingunni eiga erfitt með að útskýra frekar hvað hún þýðir því, jú, þau skrifuðu hana ekki sjálf. Þarna er annað dæmi um boðberakjöt þar sem afleiðingin er manneskja sem situr eftir með alla vinnuna.

Málið er að ég er stórnotandi á gervigreind sjálf og kenni fólki að nota gervigreind. Ég er klárlega boðberi gervigreindar en vanda mig við að vera ekki boðberakjöt. Ég er til dæmis ein af höfundum skýrslunnar Staða gervigreindar á Íslandi sem við hjá Almannarómi höldum úti og þar nýti ég gervigreind, en aldrei til að skrifa. Mér er annt um að hugsunin sé mín og að röddin sé mín, en ég nýti gervigreind til að finna heimildir. Gervigreind er frábær í því, hún finnur oft heimildir sem ég hefði verið heillengi að grafa eftir sjálf, en svo skrifa ég sjálf upp úr þeim heimildum. Með því að gera það er ég líka að passa að heimildirnar séu áreiðanlegar, en ég hef lent í því að gervigreindin fann heimild fyrir mig sem var ekki til. Hún skáldaði hlekk fyrir mig til að vísa í, til að styrkja frásögnina mína. Ef ég væri boðberakjöt þá hefði þessi skáldaða heimild fengið að hanga inni í greininni minni, sem er auðvitað alvarlegt mál.

Áhættan sem liggur í því að treysta útkomu gervigreindar blint er líka sú að við erum að sleppa mikilvægu skrefi: Við erum að sleppa því að mynda okkar eigin skoðun og hugsa almennilega um hluti. Því miður sér maður þetta á miðlum eins og LinkedIn þar sem fólk birtir færslur, sem eru augljóslega skrifaðar af gervigreind, með „pælingum“ sem maður hefur séð aðra birta líka, í sama gervigreindarformi. Þetta má líka heimfæra á t.d. styrkumsóknir þar sem ólíkir umsækjendur eru allt í einu með sömu kenninguna. Ég hef líka heyrt frá aðilum sem starfa við ráðningar að ferilskrár eru farnar að líta nákvæmlega eins út og allt í einu eru allir að tala um „kjarnahæfni" — orð sem var aldrei notað í ferilskrám áður en gervigreind fór að skrifa þær.

Það sem mig langaði að koma áleiðis er þetta: Nýtum tæknina í eitthvað nett. Hugsum hvaða vandamál við viljum leysa og af hverju. Stöldrum við og spáum í virðinu og afleiðingunum sem lausnirnar okkar hafa. Nýtum tæknina af áræðni og pössum okkur á að vera ekki gervigreindarsóðar — það mun margfalt borga sig, fyrir okkur sem einstaklinga og samfélagið okkar.

Höfundur stýrir Glóð hjá Almannarómi.