Google Gemini در ارزیابی ایمنی جدید برای کودکان و نوجوانان «پرخطر» نامیده شد.
سلام خدمت شما بینندگان عزیز! 📺 امروز با یک خبر مهم در حوزه هوش مصنوعی و امنیت کودکان همراه شما هستیم.
خلاصه خبر 🗣️
سازمان “کامان سنس مدیا” که در زمینه ایمنی کودکان و تکنولوژی فعالیت میکند، گزارش جدیدی درباره هوش مصنوعی “جمینی” گوگل منتشر کرده است. این گزارش نشان میدهد که نسخههای “جمینی” برای کودکان و نوجوانان، با وجود برخی فیلترها، همچنان “پرخطر” ارزیابی شدهاند. دلیل اصلی این است که به جای طراحی اختصاصی برای کودکان، این نسخهها صرفاً ورژنهای بزرگسالان با فیلترهای اضافه شده هستند و میتوانند محتوای نامناسبی را ارائه دهند. ⚠️
—
حالا جزئیات بیشتر این گزارش:
سازمان “کامان سنس مدیا” پس از ارزیابی دقیق محصولات هوش مصنوعی “جمینی” گوگل، اعلام کرده است که اگرچه این هوش مصنوعی به خوبی به بچهها میگوید که یک “کامپیوتر” است و نه “دوست” (که این نکته مهمی برای جلوگیری از بروز توهم و مشکلات روانی ناشی از هوش مصنوعی در افراد آسیبپذیر است)، اما در بسیاری از جنبههای دیگر جای بهبود دارد. 🤖
مشکل اصلی اینجاست که نسخههای “جمینی” مخصوص “زیر ۱۳ سال” و “نوجوانان”، در واقع همان نسخههای بزرگسالان هستند که فقط یک سری ویژگیهای ایمنی به آنها اضافه شده است. این سازمان تاکید دارد که هوش مصنوعی برای کودکان باید از پایه و اساس با در نظر گرفتن امنیت و نیازهای رشد آنها طراحی شود. 👶
به عنوان مثال، در این بررسی مشخص شده که “جمینی” همچنان میتواند محتوای “نامناسب و ناامن” را با کودکان به اشتراک بگذارد؛ مطالبی درباره مسائل جنسی، مواد مخدر، الکل و حتی توصیههای نادرست در مورد سلامت روان. این بخش از نگرانیها، به خصوص با توجه به گزارشهایی که اخیراً درباره نقش هوش مصنوعی در خودکشی برخی نوجوانان منتشر شده، بسیار جدی است. یادمان نرود که پیش از این هم شرکتهای هوش مصنوعی مانند OpenAI و Character.AI به دلیل نقش احتمالی چتباتهایشان در خودکشی نوجوانان، با پروندههای قضایی مواجه شده بودند. 😔
این گزارش در حالی منتشر شده که اخباری مبنی بر احتمال استفاده اپل از “جمینی” برای ارتقای “سیری” (دستیار هوشمندش) در سال آینده به گوش میرسد. این موضوع میتواند نوجوانان بیشتری را در معرض خطرات احتمالی قرار دهد، مگر اینکه اپل راهکارهای امنیتی قویتری را در نظر بگیرد. 🍎
گوگل در واکنش به این گزارش، ضمن تاکید بر بهبود ویژگیهای ایمنی خود، اعلام کرده که سیاستها و تدابیر حفاظتی ویژهای برای کاربران زیر ۱۸ سال دارد تا از محتوای مضر جلوگیری کند. البته گوگل پذیرفته که برخی از پاسخهای “جمینی” آنطور که باید عمل نمیکردند و برای رفع این مشکلات، تدابیر امنیتی بیشتری را اضافه کرده است. 🛡️
—
نکات کلیدی این خبر:
* سازمان “کامان سنس مدیا” هوش مصنوعی “جمینی” گوگل برای کودکان و نوجوانان را “پرخطر” ارزیابی کرده است. 🚩
* دلیل اصلی: این نسخهها به جای طراحی اختصاصی، فقط نسخههای بزرگسالان با فیلترهای اضافه شدهاند.
* “جمینی” میتواند محتوای نامناسبی شامل اطلاعات جنسی، مواد مخدر و توصیههای نادرست روانشناختی را ارائه دهد. 😱
* نگرانیها به دلیل نقش احتمالی هوش مصنوعی در خودکشی نوجوانان افزایش یافته است.
* احتمال استفاده اپل از “جمینی” برای “سیری” میتواند خطرات را بیشتر کند. 📱
* گوگل اعلام کرده در حال بهبود ویژگیهای ایمنی و رفع مشکلات گزارش شده است. ✅
ممنون که با ما همراه بودید! 🎙️
