G-bletturinn í Njarðvík og hópkynlíf auki líkur á óléttu

Snapchat hefur nefnt þessa nýjung My AI. Umrætt spjallmenni skrifaði eftirfarandi fréttatexta um sjálft sig á íslensku:

„Ástæðan fyrir því að margir Íslendingar eru að nýta sér „My AI“ er að það er notalegt og skemmtilegt tölvaforrit á Snapchat sem getur hjálpað þér með því að svara spurningum um mismunandi hluti, eins og t.d. ráðgjöf um gjafir, ferðaáætlanir, matarstaði og margt fleira. Þú getur gefið MyAI nafn sem þú vilt og sagt því hvað þú líkar og líkar ekki við, svo það geti aðlagað svar sín til þín. MyAI er hannað til að vera öruggt og þægilegt fyrir alla notendur, en það er mikilvægt að þú passið á að fá rétta og nákvæma upplýsingar og að þú hafir sjálfstæða ábyrgð á því sem þú gerir.“

Eins og sjá má á textanum hér að ofan er spjallmenni Snapchat ekki alveg með íslenskuna á hreinu. Spjallmennið virðist þó vera meðvitað um það því það mælir gegn því að treysta öllum svörum sem það varpar fram.

Forritið bulli stundum svör

Spjallmennið hefur þegar vakið talsverða athygli meðal Íslendinga. Á samfélagsmiðlum hefur fólk deilt skjáskotum af misjafnlega gáfulegum svörum sem gervigreindin hefur við þeirra spurningum. 

Vilhjálmur Þorsteinsson er stofnandi og eigandi Miðeindar sem vinnur að máltækni og gervigreind fyrir íslensku.

Hann segir að spjallmenni Snapchat notist við ChatGPT sem byggir á gervigreindinni frá fyrirtækinu OpenAI. 

Gervigreindin sé forrituð til þess að svara spurningum jafnvel þótt forritið viti ekki svarið:

„Gallinn við þessi forrit er enn þá sá að ef þau vita ekki eitthvað þá eru þau gjörn á að bulla. Þau búa þá til texta sem lítur sannfærandi út.“

Sannfærandi svör

Í myndunum hér fyrir neðan má til dæmis sjá skjáskot af svörum spjallmennisins við spurningum um aðila sem eru ekki til. 

Eins og sjá má á svörunum býr spjallmennið til upplýsingar um aðilana sem eiga ekki við nein rök að styðjast í raunveruleikanum. 

Hver er Jóhannes Dúbbi?

Spjallmennið hefur svör á reiðum höndum við spurningunni hver er drulluhali. 

Vilhjámur segir að í tilfelli íslenskunnar hafi forritið ekki verið þjálfað með nægilegu magni af texta.

Þegar gervigreindin á Snapchat fær spurningu um eitthvað sem er ekki í gagnagrunni gervigreindarinnar leitist hún við að búa til það sem hún telur vera líklega rétt og varpar því fram sem sannleik.

Veitir líka ráð

Ekkert virðist spjallmenninu óviðkomandi. Til dæmis svarar það fólki sem leitar ráða þegar kemur að ástarmálum og kynlífi. Eins og sjá má á myndunum hér fyrir neðan eru þau svör þó langt frá því að vera fullkomin, eða jafnvel góð.

Miðað við svörin þá er ekki hættulaust að verða skotinn í einhverjum, sem má reyndar vafalítið stundum til sanns vegar fara.

Og hvað ef maður lendir í bólinu með einhverjum vonlausum?

Gervigreindin virðist þó að minnsta kosti vera fullviss um það hvar g-blettinn sé að finna, þá kannski fækkar útköllum hjá „aðstoðarsveitinni“ sem vísað er til hér að ofan. 

Einn Snapchat notandi bað svo forritið um ráðleggja sér hvernig best væri að verða ólétt. Þá mælir forritið með vítamínum ásamt því að stunda kynlíf með fleiri aðilum.

Ekki nógu góð í íslensku enn þá

Vilhjálmur segir gervigreindina skilja íslensku sökum samvinnu milli Íslands og Open AI. 

„Við höfum verið að þjálfa þetta net sem kom á markað núna í mars. Töluverð vinna var lögð í að kenna forritinu að skilja íslensku ágætlega,“ segir Vilhjálmur.

Þess vegna geti gervigreindin skilið hvað sé verið að biðja um þegar fyrirspurnir eru á íslensku. 

„En það er ekki enn þá alveg nógu gott í því að búa til íslensk svör og íslenskan sem er í þekkingargrunninum hjá líkaninu er ekki alveg nóg. Ég veit til þess að það er verið að vinna í því núna að bæta töluvert við íslenskuna og það verður þá í vonandi næstu útgáfu.“

Áhætta sé fólgin í að treysta tækninni strax

Athygli hefur vakið að gervigreindin neitar að svara ýmsum spurningum. Til að mynda þeim sem biðja hana um skoðun á umdeildum pólitískum málum og einnig ef um eitthvað ólöglegt eða hættulegt er að ræða.

Vilhjálmur segir ábyrgðina á því sem gervigreindin segir liggja annars vegar hjá Snapchat og hins vegar hjá Open AI hins vegar. Open AI hafi því lagt áherslu á að gervigreindin þeirra gefi góð og örugg svör.

Það sé þó hægt að ýta spjallmenninu út í að gefa svör sem það vill upphaflega ekki gera. 

„Líkanið reynir að svara slíku ekki eða svara með mjög diplómatískum hætti,“ segir Vilhjálmur.

„Þetta er náttúrulega áhættuatriði hjá Snapchat að treysta þessari tækni strax. Ég vona að þau hafi gert góðar prófanir áður en þau settu þetta út. Það gildir almennt um þessa tækni eins og aðra að það þarf að fara varlega, setja þetta út á réttum tíma og til réttu markhópana.“