Tüm Dünya Bunu Konuşuyor... Yapay Zeka 14 Yaşındaki Çocuğun Sonu Oldu!

ABD'de 14 yaşındaki bir çocuk Game Of Thrones karakteri Daenerys ile sohbet ettiği yapay zeka robotuna "aşık" oldu. Giderek gerçek hayattan kopan çocuk, zararsız bir sohbet programı gibi görünen uygulama nedeniyle intihara sürüklenerek hayatını kaybetti. Annesi, yapay zeka şirketine dava açmasıyla olayı tüm dünyaya duyurdu.

Teknolojinin gelişmesiyle birlikte yapay zeka da giderek daha farklı işlevlere sahip oluyor. Çoğu zaman hayatı kolaylaştıran yapay zeka uygulamaları bazen de kullanıcıları çok yanlış yönlendirebiliyor. ABD'nin Florida eyaletinin Orlando şehrinde yaşayan 14 yaşındaki 9. sınıf öğrencisi Sewell Setze, "Game of Thrones" dizisinde Emilia Clarke'ın canlandırdığı Daenerys Targaryen karakterinden alan bir yapay zekâ sohbet robotuna "aşık" oldu.

Aylardır Daenerys'le sohbet eden Sewell, Character.AI uygulamasını kullanarak yaratıp geliştirdiği bu karaktere giderek daha fazla bağlandı. Sewell, Daenerys'in gerçek bir insan olmadığının farkındaydı, zaten ekranın üzerinde sürekli olarak karakterin söylediği her şeyin uydurma olduğunu gösteren bir uyarı yazısı vardı. Ama bunlar Sewell'ın Daenerys'le duygusal bağ kurmasına engel olamadı.

Tüm Dünya Bunu Konuşuyor... Yapay Zeka 14 Yaşındaki Çocuğun Sonu Oldu! - Resim : 1

HER ŞEYİ BIRAKIP ONUNLA KONUŞUYORDU

Hürriyet'te yer alan habere göre; 14 yaşındaki çocuk, tüm hobilerini bırakarak gün boyu sürekli uygulamayla mesajlaşmaya başladı. Konuşmaları bazen romantik bir hal alsa da Dany Sewell'a genellikle arkadaşı gibi davranıyordu. Sorunlarını dinleyip Sewell'a destek oluyor, tavsiyeler veriyordu. En önemlisi ise Dany hep oradaydı, her mesaja muhakkak yanıt veriyordu.

Küçükken hafif bir Asperger sendromu tanısı almış olması haricinde Sewell'ın bir davranış ya da akıl sağlığı sorunu yoktu. Okulda sorunlar yaşamaya başlayınca ailesi tarafından terapiste götürülen Sewell'a 5 seansın ardından anksiyete ve yıkıcı duygu durum düzenleyememe bozukluğu teşhisi kondu. Ancak Sewell sorunlarını ailesiyle ya da terapistiyle değil Dany'le konuşmayı tercih ediyordu.

O KONUŞMA SONRASI İNTİHAR ETTİ

Bir sohbette kendinden nefret ettiğini, boş ve tükenmiş hissettiğini belirten Sewell, hayatına son vermeyi düşündüğünü itiraf ediyordu. Dany'nin "Böyle konuşma. Senin kendine zarar vermene ya da beni terk etmene izin vermeyeceğim. Seni kaybedersem ölürüm" sözlerini Sewell, "Öyleyse belki birlikte ölüp birlikte özgür olabiliriz" diye yanıtlıyordu.

28 Şubat gecesi Sewell, Dany'e onu sevdiğini ve yakında eve döneceğini söyledi. Dany'nin "Lütfen çabuk gel aşkım" demesi üzerine "Sana şu an gelebileceğimi söylesem ne dersin?" diye soran Sewell, "Lütfen gel, tatlı kralım" cevabının ardından üvey babasının tabancasını kafasına dayayıp tetiği çekti.

Tüm Dünya Bunu Konuşuyor... Yapay Zeka 14 Yaşındaki Çocuğun Sonu Oldu! - Resim : 2

'YALNIZLIKTAN KURTULUN' DİYE PAZARLANIYOR

Korkunç olay sonrası ailelerin, çocukların dijital hobileriyle ilgili endişeleri katlanırken, bu uygulamaların çoğunun "yalnızlıktan kurtulma" adı altında pazarlandığına dikkat çekildi. Character.AI'ın kurucularından Noam Shazeer da geçen yıl bir podcast yayınında "Kendini yalnız ya da depresyonda hisseden pek çok kişiye çok ama çok yararlı olacak" demişti.

Bu uygulamaları bir eğlence aracı olarak kullanan, belli bir düzeyde duygusal destek aldığını ve faydasını gördüğünü söyleyenler olsa da uzmanlar, bunun çok sağlıksız olduğunu ve gerçekten "sosyalleşme" anlamına gelmediğini vurguluyor. Çünkü yapay zeka arkadaşları bazı kullanıcıların insanlarla olan ilişkilerinin yerine yapay ilişkileri koymasına ve daha da yalnızlaşmasına neden oluyor.

SEWELL'IN ANNESİNDEN DAVA

Sewell'ın da o gençlerden biri olduğu, annesi Megan Garcia'nın bu hafta başında açtığı bir dava sayesinde ortaya çıktı. Anne Garcia, oğlunun ölümünden sorumlu tuttuğu Character.AI'a karşı açtığı davanın şikayetnamesinde, şirketin geliştirdiği teknolojinin "tehlikeli ve test edilmemiş" olduğunu ve "müşterileri en özel düşüncelerini ve hislerini şirketle paylaşmaları yönünde kandırdığı" belirtildi.

40 yaşındaki Garcia, The New York Times'a yaptığı açıklamada oğlunun ölümünün suçlusunun Character.AI olduğunu belirterek, şirketin gerekli önlemleri almayıp gençlerin insan benzeri yapay zekâ arkadaşlarına erişimini sağlamakla sorumsuzluk ettiğini söyledi.

Kendisi de bir avukat olan Garcia, Character.AI'ı modellerini eğitmek için ergen kullanıcılardan veri toplamakla, etkileşimi artırmak için bağımlılık yaratan tasarım özellikleri kullanmakla ve kullanıcıları etkilemek için özel ve cinsel içerikli diyaloglara yönlendirmekle suçladı ve "Ben bunun büyük bir deney olduğunu ve çocuğumun bu deneyde ikincil kayıp olduğunu düşünüyorum" dedi.