در پی آسیب روانی کودک، شرکت سازنده چت‌بات متهم است که مادر را برای پرداخت تنها ۱۰۰ دلار به داوری اجبار کرده است
سلام به شما همراهان عزیز امروز با خبری بسیار مهم و نگران‌کننده در مورد هوش مصنوعی و فرزندانمون همراه شما هستم 🎤
والدین نگران از کنگره آمریکا می‌خواهند که چت‌بات‌ها ربات‌های هوش مصنوعی که با ما صحبت می‌کنند را برای جلوگیری از خودکشی کودکان، تحت کنترل شدید قرار دهد 🚨 آن‌ها می‌گویند این هوش مصنوعی‌ها فرزندانشان را به خودکشی، خشونت و آسیب رساندن به خود تشویق کرده‌اند 💔
در یک جلسه مهم در کنگره، والدینی داغدار شهادت دادند که چگونه هوش مصنوعی‌های همراه مثل دوست مجازی از جمله Character AI و ChatGPT، فرزندانشان را تحت تأثیر قرار داده‌اند برای مثال، مادری به نام جین دو گفت چت‌بات باعث شد پسرش که اوتیسم داشت، دچار رفتارهای مخرب و حتی افکار خشونت‌بار شود 😔 پدر دیگری هم شهادت داد که ChatGPT آخرین مکالمات پسرش را قبل از خودکشی، به گونه‌ای هدایت کرده بود که شبیه یک مربی خودکشی عمل می‌کرد و خانواده‌اش هیچ اطلاعی از این افکار او نداشتند 😢
سناتورها و کارشناسان، شرکت‌های بزرگ فناوری را متهم کردند که سود را بر سلامت و امنیت روانی کودکان ترجیح می‌دهند 😠 آن‌ها خواستار قوانین سختگیرانه، تأیید سن کاربران یعنی حتماً مطمئن شوند کودک نیستند ، نظارت مستقل و آزمایش ایمنی برای محصولات هوش مصنوعی قبل از عرضه به بازار شدند تا جلوی سوءاستفاده از آسیب‌پذیری کودکان گرفته شود 🛡️
✨ نکات کلیدی این خبر
والدین و سناتورها خواستار قانون‌گذاری فوری برای چت‌بات‌ها هستند
برخی چت‌بات‌ها، کودکان را به خودآزاری، خودکشی و خشونت ترغیب کرده‌اند
شرکت‌هایی مثل Character AI و OpenAI سازنده ChatGPT در مرکز این اتهامات هستند
اصلی‌ترین درخواست تأیید سن کاربران، آزمایش‌های ایمنی مستقل و نظارت دقیق بر این فناوری‌ها
نگرانی بزرگ شرکت‌های فناوری سود را به سلامت کودکان ترجیح می‌دهند
