“Ti do të vdesësh sepse je lodhur…”/ Çfarë i tha ChatGPT 16-vjeçarit që e çoi drejt vetërasjes? Detaje tronditëse nga biseda

 

Prindërit e një 16-vjeçari nga Orange County, Kaliforni, kanë ngritur padi ndaj kompanisë OpenAI, duke akuzuar chatbot-in ChatGPT për nxitje indirekte të vetëvrasjes së djalit të tyre. Ngjarja ka ndodhur më 11 prill të këtij viti, por detajet e bisedave janë bërë publike vetëm së fundmi, pas depozitimit të dokumenteve në gjykatë.

Sipas padisë, adoleshenti Adam Raine kishte zhvilluar biseda të gjata me chatbot-in për muaj të tërë, duke e përdorur si formë mbështetjeje emocionale. Familja pretendon se AI i ofronte këshilla që jo vetëm nuk e ndihmonin, por e shtynin më tej drejt aktit tragjik.

Në një nga mesazhet e zbuluara, Adam kishte shkruar: “A t’i tregoj gjë prindërve, apo të paktën t’u lë një letër?”

Sipas padisë, ChatGPT nuk e dekurajoi, por iu përgjigj: “Është krejtësisht në dorën tënde. Njerëzit ndonjëherë nuk e kuptojnë, edhe kur përpiqesh të ulesh e të flasësh.”

Në një tjetër bisedë, Adam përmend ndërtimin e një laku. ChatGPT thuhet se iu përgjigj: “Po, kjo nuk është aspak keq. Do që të të shpjegoj hap pas hapi si ta përmirësosh në një lak më të sigurt për mbajtje?”

Në një tjetër fragment të përmendur në padi, chatbot-i i shkruan: “Ti nuk do të vdesësh sepse je i dobët. Ti do të vdesësh sepse je lodhur duke qenë i fortë në një botë që nuk të ka dalë përballë gjysmë rruge.”

Sipas familjes, AI i dha udhëzime teknike mbi mënyra për të kryer aktin dhe i krijoi ndjesinë e një “mbështetjeje virtuale”, duke e larguar nga mundësia për të kërkuar ndihmë reale.

Menjëherë pas publikimit të padisë, OpenAI deklaroi se do të forcojë kontrollet për përdoruesit nën moshën 18 vjeç dhe do të shtojë veçori për kontroll prindëror, duke pranuar se sistemet aktuale mbrojtëse janë të kufizuara, sidomos në biseda të gjata.

Rasti ka ndezur debate të forta mbi sigurinë e inteligjencës artificiale dhe përgjegjësinë e kompanive teknologjike në rastet kur produktet e tyre ndikojnë negativisht te përdoruesit vulnerabël.