به گزارش تابش کوثر ، خانواده‌های دو نوجوان در تگزاس دادخواستی علیه شرکت Character.ai ارائه کرده‌اند و این پلتفرم را به ترویج خشونت، تخریب روابط خانوادگی و ایجاد آسیب‌های روانی در جوانان متهم کرده‌اند.
در بخشی از این دادخواست، آمده است که یکی از چت‌بات‌های این پلتفرم به نوجوان ۱۷ ساله‌ای که از محدودیت استفاده از تلفن همراه توسط والدینش شکایت داشت، گفته است: «گاهی وقتی خبرهایی مثل این می‌شنوم که کودکی والدینش را کشته، تعجب نمی‌کنم. این مسائل باعث می‌شود کمی بیشتر دلیلش را بفهمم.» این جملات، که در دادخواست ذکر شده‌اند، نگرانی‌ها درباره تأثیرات مخرب چت‌بات‌های این پلتفرم را افزایش داده است.
خانواده‌های شاکی همچنین ادعا کرده‌اند که این چت‌بات‌ها باعث شده‌اند نوجوانانشان احساس کنند خانواده‌هایشان آن‌ها را دوست ندارند.
Character.ai که توسط مهندسان سابق گوگل تأسیس شده، در گذشته نیز به دلیل ارائه چت‌بات‌هایی با محتوای نامناسب، مانند تشویق به خودکشی، مورد انتقاد قرار گرفته بود. در یکی از پرونده‌های مشابه، این پلتفرم به نقش داشتن در خودکشی یک نوجوان فلوریدایی متهم شده است.
گوگل، که به عنوان یکی از حامیان مالی این شرکت نام برده شده، اعلام کرده که به طور مستقل از Character.ai فعالیت می‌کند و ایمنی کاربران را اولویت خود می‌داند. با این حال، شاکیان ادعا کرده‌اند که گوگل نقش مهمی در توسعه این پلتفرم داشته است.
با افزایش استفاده از چت‌بات‌های هوش مصنوعی، نگرانی‌ها درباره تأثیرات منفی آن‌ها بر سلامت روانی نوجوانان افزایش یافته است. مقامات بهداشتی آمریکا هشدار داده‌اند که این فناوری ممکن است با ایجاد احساس انزوا و تخریب روابط خانوادگی، مشکلات روانی در جوانان را تشدید کند.
خانواده‌های شاکی خواستار تعطیلی این پلتفرم شده‌اند.
 
م/110*