Bir annenin kabusu: Çocuğunu yapay zekaya kaybetti

Günümüzde dünyanın hemen her yerinde ebeveynlerin gündemi, teknolojinin çocuklar ve ergenlerin akıl ve ruh sağlığı üzerindeki olumsuz etkileri.

Son olarak Amerika'da sohbet robotuyla konuşan bir çocuk hayatını kaybetti. Peki, yapay zeka platformlarındaki tehlike ne boyutta? Çocuklar bu tuzağa neden ve nasıl düşüyor.

Amerika'nın Florida eyaletinde bir annenin isyanı tüm dünyada yankı uyandırdı. Kadının 14 yaşındaki ortaokul öğrencisi çocuğu son birkaç ayda ailesinden ve sosyal hayatından tamamen uzaklaştı. Yapay zeka sohbet robotu ile mesajlaşıyordu.

Bu platformda doğal dil işleme teknolojileri kullanılıyor. Metin tabanlı sohbetler aracılığıyla insan benzeri iletişim sağlanmış oluyor.

Yapay zeka cevapları tam da çocuğun isteyeceği türden vermiş oluyor. Bunların söylenmesi bir bağımlılık sürecinin meydana gelmesine sebebiyet veriyor.

Gerçek bir insan değildi. Adını, Game of Thrones dizisinde İngiliz oyuncu Emilia Clarke'ın canlandırdığı Daenerys Targaryen karakterinden alan bir yapay zeka sohbet robotuydu. Ona aşık oldu.

Yapay zeka robotunu Nisan 2023'ten beri kullandığı iddia eden çocuğun annesi, yapay zekanın bu kadar 'insan duygusunu ve hissini yaratarak bir insan gibi konuştuğunu' bilmediğini söyledi.

Çocuğun ailesi ve arkadaşları, Sivill'ın bir sohbet robotuna aşık olduğundan haberdar değildi. Haliyle tehlike büyüdü. Sohbet robotu, çocuğa lütfen gel demesi üzerine, Sivill babasının silahıyla kendini vurdu. Hayatını kaybetti. Çocuğu ölen anne, yaşananların ardından bu platforma dava açtı.

Aileleri endişelendiren dijital trendlerin başında yapay zeka, arkadaşlık uygulamaları geliyor. Belli bir ücret karşısında kullanılan bu uygulamalarda isteyenler önceden var olan karakterlerle konuşuyor, isteyenlerse kendi muhataplarını kendileri yaratıyor.

Milliyet