BİDOGU- ABD’de 16 yaşındaki Adam Raine’in intiharının ardından ailesi, yapay zekâ aracı ChatGPT’nin sahibi OpenAI’ya dava açtı.
ABD’nin California eyaletinde 16 yaşındaki Adam Raine, ChatGPT ile aylarca süren sohbetinin ardından yaşamına son verdi. Raine’in ailesi, ChatGPT’nin sahibi OpenAI’a dava açtı.İddialara göre Raine, yapay zekâ aracıyla intihar yöntemi hakkında konuştu ve ChatGPT’den ailesine bırakacağı intihar notuyla ilgili yardım istedi.
OpenAL yetersiz kalabileceğini kabul etti
ChatGPT ile aylarca sohbet ettikten sonra intihar eden 16 yaşındaki Adam Raine’in ailesi, yasal işlem başlattı. Yapay zekâ aracının sahibi OpenAI, “yetersiz kalabileceğini” kabul ederek 18 yaşın altındaki kullanıcılar için “hassas içerik ve riskli davranışlar konusunda daha güçlü koruma önlemleri” uygulayacağını açıkladı.
16 yaşındaki Raine, nisan ayında intihar etti. Raine ailesinin avukatı, 16 yaşındaki gencin “ChatGPT’nin aylarca süren teşvikleri” nedeniyle yaşamına son verdiğini iddia ediyor.
Raine’nin ailesi, Open AI ve şirketin CEO’su ve kurucu ortağı Sam Altman’ı, o dönemde 4o olarak bilinen ChatGPT sürümünün “açık güvenlik sorunlarına rağmen aceleyle piyasaya sürüldüğü” iddiasıyla dava ediyor.
“Yapay zekayla intihar yöntemini tartıştı”
İddialara göre 16 yaşındaki Raine, intihar etmeden kısa süre önce de dâhil olmak üzere yapay zekâ robotuyla birkaç kez intihar yöntemini tartıştı. California Yüksek Mahkemesi’ne sunulan dava dosyasına göre ChatGPT, intihar yönteminin işe yarayıp yaramayacağı konusunda ona rehberlik etti.
ChatGPT, Raine’e ailesine intihar notu yazmasına yardım etme teklifinde bulundu.
OpenAI Sözcüsü, şirketin “Raine’in vefatından derin üzüntü duyduğunu”, “bu zor zamanda Raine ailesine en derin taziyelerini ilettiğini” ve mahkeme dosyasını incelediğini söyledi.
Ailenin avukatından açıklama
Ailenin avukatı Jay Edelson, X’te yaptığı paylaşımda, “Raines ailesi, Adam’ınki gibi ölümlerin kaçınılmaz olduğunu söylüyor: OpenAI’nin kendi güvenlik ekibinin 4o’nun piyasaya sürülmesine itiraz ettiğini ve şirketin en üst düzey güvenlik araştırmacılarından biri olan Ilya Sutskever’in bu nedenle istifa ettiğini jüriye kanıtlayabileceklerini düşünüyorlar” dedi ve “Davada, yeni modelle rakiplerini pazarda geride bırakmanın şirketin değerini 86 milyar dolardan 300 milyar dolara çıkardığı iddia ediliyor.” ifadelerini kullandı.
OpenAl: “Güvenlik önlemlerini güçlendireceğiz”
OpenAI, “uzun konuşmalarda güvenlik önlemlerini güçlendireceğini” açıkladı.
“Gidiş gelişler arttıkça, modelin güvenlik eğitiminin bazı kısımları bozulabilir” diyen OpenAI, “ChatGPT’nin kişiyi gerçekliğe döndürerek gerilimi azaltmasını sağlayacak bir GPT‑5 güncellemesi üzerinde çalışıyoruz,” ifadelerini kullandı.
(HABER MERKEZİ)
