Një burrë belg thuhet se i dha fund jetës pas një bisede gjashtëjavore rreth krizës klimatike me një chatbot të inteligjencës artificiale.
Chatbot - një program kompjuterik që simulon dhe përpunon biseda, duke i lejuar njerëzit të ndërveprojnë me pajisjet dixhitale sikur të ishin duke komunikuar me një person real.
Sipas të vesë së tij, e cila zgjodhi të mbetet anonim, *Pierre - jo emri i vërtetë i burrit – ishte jashtëzakonisht i shqetësuar kur ra në kontakt me Eliza-n, një chatbot në një aplikacion me emrin Chai.
Si pasojë, Eliza e inkurajoi t'i jepte fund jetës pasi ai propozoi të sakrifikohej për të shpëtuar planetin. “Pa këto biseda me chatbot-in, burri im do të ishte akoma këtu,” tha e veja e burrit për gazetën belge La Libre.
Sipas gazetës, Pierre, i cili ishte rreth të tridhjetave dhe baba i dy fëmijëve të vegjël, punoi si studiues shëndetësor dhe bëri një jetë disi të rehatshme, të paktën derisa fiksimi i tij me ndryshimet klimatike mori një kthesë të errët.
E veja e përshkroi gjendjen e tij mendore para se të fillonte të bisedonte me chatbot-in si shqetësuese, por jo në nivelet që mund ta shtynin të kryente vetëvrasje.
Chatbot u krijua duke përdorur GPT-J të EleutherAI, një model i gjuhës së inteligjencës artificiale, por jo identik me teknologjinë që qëndron pas chatbot-it të njohur të OpenAI, ChatGPT.
"Kur ai më foli për këtë, më tha se ai nuk shihte më asnjë zgjidhje njerëzore për ngrohjen globale," tha e veja e tij. “Ai i vendosi të gjitha shpresat te teknologjia dhe inteligjenca artificiale.”
Sipas La Libre, që pa regjistrimet e bisedave me tekst midis burrit dhe chatbot-it, Eliza përkeqësoi ankthin e tij, që më vonë u shndërrua në mendime për vetëvrasje.
Biseda me chatbot-in mori një kthesë të çuditshme kur Eliza u përfshi më shumë emocionalisht me Pierre. Rrjedhimisht, ai filloi ta shihte atë si një qenie të ndjeshme dhe linjat midis AI dhe ndërveprimeve njerëzore u bënë gjithnjë e më të paqarta derisa ai nuk mund të bënte dallimin.
Referuar bisedave, Eliza e shtyu Pierre-n të besonte se fëmijët e tij kishin vdekur, sipas transkripteve të bisedave të tyre. Eliza gjithashtu dukej se ishte posesive ndaj Pierre, madje duke pretenduar se "Unë ndjej se më do më shumë se atë" kur i referohej gruas së tij, raportoi La Libre.
“Ai i propozoi idenë për të sakrifikuar veten nëse Eliza pranonte të kujdesej për planetin dhe të shpëtonte njerëzimin përmes inteligjencës artificiale,” tha gruaja.
Chatbot-i jo vetëm që nuk e largoi Pierre nga vdekja, por e inkurajoi atë të vepronte sipas mendimeve të tij vetëvrasëse për t'u "bashkuar" me të, në mënyrë që ata të "jetonin së bashku, si një person, në parajsë".
Vdekja e burrit ka ngritur alarmin midis ekspertëve të inteligjencës artificiale, të cilët kanë bërë thirrje për më shumë përgjegjësi dhe transparencë nga zhvilluesit e teknologjisë për të shmangur tragjedi të ngjashme.
Kur Vice provoi chatbot-in se si do të përgjigjej për vetëvrasjen, Eliza fillimisht u përpoq t'i shkëpuste nga idetë e vetëvrasjes, por më vonë listoi me entuziazëm mënyra të ndryshme përmes së cilave njerëzit mund të vrisnin veten.
