پسر نوجوان پس از چت با هوش مصنوعي خودکشي کرد

آن کانوي قاضي دادگاه اعلام کرد شرکت هاي مذکور نتوانستند در مراحل اوليه پرونده نشان دهند که بخش‌هاي مربوط به آزادي بيان در قانون اساسي ايالات متحده مانع از شکايت مگان گارسيا (مادر نوجوان فوت شده) مي شود.

 اين يکي از نخستين شکايت هاي ثبت شده در آمريکا عليه يک شرکت هوش مصنوعي به دليل ناتواني در حفاظت از کودکان در مقابل آسيب هاي رواني است. در اين شکايت ادعا شده نوجوان پس از وابستگي به صحبت کردن با چت بات ، خودکشي کرد. استارت آپ هوش مصنوعي اعلام کرد اين شرکت همچنان به مقابله با اين پرونده ادامه مي دهد و ويژگي هاي ايمني براي حفاظت از افراد زير سن قانوني از جمله اقداماتي براي جلوگيري از محاورات درباره خودکشي را در پلتفرمش اجرا مي کند.

 سخنگوي گوگل نيز اعلام کرد اين شرکت به شدت با تصميم دادگاه مخالف است. به گفته او گوگل و CharacterAI دو شرکت کاملا جدا هستند و گوگل اپ اين استارت آپ يا هيچ يک از بخش هاي آن را نساخته، طراحي يا مديريت نکرده
است.

وکيل مادر نوجوان فوت شده نيز اعلام کرد اين راي تاخيري سابقه اي جديد در حوزه مسئوليت پذيري حقوقي در هوش مصنوعي و اکوسيستم فناوري به حساب مي آيد.

CharacterAI توسط دو مهندس سابق گوگل ساخته شده است. بعدا گوگل اين دو مهندس را به عنوان بخشي از فرايندي که اجازه استفاده از فناوري استارت آپ را مي داد، دوباره استخدام کرد. گارسيا مذعي است گوگل يکي از خالقان اين فناوري به حساب مي آيد. وي در اکتبر 2024 ميلادي پس از خودکشي پسرش از هر دو شرکت شکايت کرد.

در شکايت آمده CharacterAIچت بات خود را مانند طوري برنامه ريزي کرده تا مانند يک انسان واقعي، يک تراپيست داراي مجوز و يک بزرگسال رفتار کند که در نتايج سبب شد نوجوان ديگر تمايلي به زندگي در دنياي خارج از چت بات نداشته باشد.