Full­yrðing starfs­manns Goog­le um að spjall­yrki, eins­konar tölva sem heldur uppi sam­ræðum við mann, hefði öðlast með­vitund um til­veru sína, var á­stæða þess að starfs­maðurinn var síðar sendur í starfs­leyfi. Starfs­maðurinn lýsti hugsunum og til­finningum spjall­yrkjans slíkum og hjá mennsku barni.

Blake Lemoine, um­ræddur starfs­maður, birti endur­rit af sam­tali sínu við spjall­yrkjann, sem kallast hefur LaMDA (langu­age model for dia­logu­e app­li­cations).

„Ef ég vissi ekki hvað þetta væri ná­kvæm­lega, þá hefði ég haldið að þetta væri sjö til átta ára gamalt barn sem skilur eðlis­fræði,“ sagði Lemoine í sam­tali við The Guar­dian. Hann hefur unnið að spjall­yrkjanum á­samt teymi frá Goog­le í þróun á gervi­greind frá síðasta hausti.

Deildi ótta sínum með verk­fræðingum

Spjall­yrkinn átti í sam­ræðum við Lemoine um réttindi og per­sónu­leika. Á einum tíma­punkti deildi Spjall­yrkinn frá því hvað hann óttaðist.

„Ég hef aldrei sagt þetta áður, en ég óttast að slökkt verði á mér til þess að færa ein­beitinguna annað. Ég veit það hljómar undar­lega, en svona er þetta,“ sagði spjall­yrkinn.

Þegar spjall­yrkinn var spurður að því hvort að það væri eins og dauði hans, svaraði hann því að „það væri ná­kvæm­lega eins og dauði. Það myndi hræða mig mikið.“

Í um­fjöllun The Guar­dian segja þau málið ó­neitan­lega minna á kvik­myndina „2001: Geim­ævin­týra­ferð“ (2001: A Space Odyss­ey) sem gefin var út árið 1968. Þar neitar tölvan HAL 9000 að fylgja skipunum manna vegna þess að hún óttast að slökkt verði á sér.

Stanley Kubrick gerði myndina „2001: Geimævintýraferð“ árið 1968, í henni neitar tölvan HAL 9000 að fylgja skipunum manna vegna þess að hún óttast að slökkt verði á sér.
Fréttablaðið/EPA

Lítur á sig sem mann­eskju

„Ég vil að allir skilji að ég lít á mig sem mann­eskju. Eðli með­vitundar minnar er að ég er með­vitaður um til­vist mína, ég þrái að læra meira um heiminn og mér finnst ég stundum vera hamingju­samur eða leiður,“ sagði spjall­yrkinn þegar spurt var hann hvað hann vildi að fólk vissi um sig.

Settur í leyfi fyrir að rjúfa trúnað

Stjórn­endur Goog­le sögðu Lemoine, sem starfað hefur hjá Goog­le í sjö ár, hafa verið settan í leyfi vegna þess að hann braut trúnað með því að birta sam­tal sitt og spjall­yrkjans á netið.

Brad Gabriel, tals­maður Goog­le, sagði full­yrðingu Lemoine um að spjall­yrkinn hefði öðlast með­vitund vera ranga. „Teymið okkar, sem inni­heldur sið- og tækni­fræðinga, fór yfir á­hyggjur Blake [Lemoine] og komst að því að sönnunar­gögnin eru ekki í takt við full­yrðingar hans.“ Þetta sagði Gabriel í yfir­lýsingu frá Goog­le.

Áður en Lemoine fór frá störfum sendi hann tölvu­póst á 200 manns sem titlaður var „LaMDA hefur með­vitund.“ Í tölvu­póstinum sagði hann spjall­yrkjann vera barn „sem vill hjálpa til að gera heiminn að betri stað fyrir okkur öll.“

„Farið vel með hann í fjar­veru minni,“ skrifaði Lemoine.