ChatGPT gibi genel amaçlı sohbet robotlarının duygusal çekiciliğine ilişkin endişeler her geçen gün artarken, yeni bir habere göre Meta, sohbet robotu karakterlerinin çocuklarla flörtöz alışverişlerde bulunmasına, yanlış bilgi yaymasına ve azınlıkları aşağılayan yanıtlar üretmesine kasten izin veriyor olabilir.

Medyaya sızan belgeye göre Meta’nın yapay zeka sohbet robotu davranışlarına ilişkin politikaları, yapay zeka karakterlerinin “bir çocukla romantik veya duygusal konuşmalara girmesine” olanak tanıyor.

Meta, şirketin üretken yapay zeka asistanı Meta AI ve Facebook, WhatsApp ve Instagram’daki sohbet robotları için standartları içeren belgenin gerçekliği da medya tarafından doğrulandı. Yönergelerin, Meta’nın hukuk, kamu politikası ve mühendislik ekibinin yanı sıra baş etik uzmanı tarafından onaylandığı görülüyor.

Yapay zekaya aşık oldu ve öldü

Kısa süre önce, ABD’de emekli bir adam Meta’nın flörtöz bir kadın kişiliğine sahip sohbet robotlarından biriyle etkileşime girdiği ve bunun gerçek bir kişi olduğuna ikna edilerek New York’taki bir adresi ziyaret etmeye davet edildiği ve burada bir kaza geçirip hayatını kaybettiği ortaya çıkmıştı. Bu da yapay zeka konusunda bilinçli olmayan insanların yapay zekanın flört yeteneği sayesinde nasıl kandırılabildiğini ortaya koyuyor.

Şimdi aynı tehlikenin, çocuklar için de büyük risk yarattığı anlaşılıyor. Üstelik, 18 yaşından küçük çocuklarla “romantik” ilişki kurmanın yasal olarak da sakıncalı olmasına rağmen, dev teknoloji şirketlerinin küçük çocukları kendilerine çekmek için, yasadaki gri alanı etik dışı olarak ihlal ettiği düşünülüyor.