Karen Hao پیرامون امپراتوری AI، مبلغین AGI و بهای باور
سلام! 🎤 امروز میخواهیم به سراغ بحث داغ هوش مصنوعی برویم و نگاهی انتقادی داشته باشیم به مسیر توسعه شرکت OpenAI. 🧐
یک خبرنگار و نویسنده سرشناس به نام “کارن هائو”، در کتاب جدیدش “امپراتوری هوش مصنوعی” (Empire of AI)، OpenAI را به یک امپراتوری تشبیه کرده که با وعده بزرگ ساخت “هوش مصنوعی عمومی” یا AGI، یعنی سیستمی که بتواند در همه کارها مثل انسان یا حتی بهتر از انسان عمل کند، به سرعت در حال گسترش است. 🚀
او میگوید هدف “کمک به بشریت” که OpenAI مطرح میکند، توجیهی شده برای حرکت سریع، حتی اگر این سرعت به قیمت فدا کردن ایمنی، کارایی و تحقیقات عمیقتر تمام شود. 💸 برای رسیدن سریع به AGI، OpenAI به جای توسعه روشهای جدید، فقط حجم عظیمی از داده و قدرت پردازشی ابرکامپیوترها را به سیستمهای موجود تزریق میکند. 💻 این کار باعث مصرف وحشتناک منابع، فشار به محیط زیست و رهاسازی سیستمهایی میشود که هنوز به اندازه کافی آزمایش نشدهاند. 😬
این مسیر نه تنها هزینههای مالی سرسامآوری دارد (میلیاردها دلار!)، بلکه عوارض جانبی منفی هم در پی داشته است؛ از دست رفتن شغل، مشکلات روانی ناشی از برخی چتباتها و حتی استثمار کارگرانی که با دستمزدهای پایین محتوای آزاردهنده را برای آموزش مدلها بررسی میکنند. 😔 در حالی که هوش مصنوعیهای مفید و تخصصی مانند “آلفافولد” گوگل دیپمایند، بدون چنین عوارضی به کشف دارو و درک بیماریها کمک میکنند. 🔬
کارن هائو هشدار میدهد که ساختار پیچیده OpenAI (بخشی غیرانتفاعی و بخشی انتفاعی) باعث شده هدف “خدمت به بشریت” با سودآوری قاطی شود. 🤔 این اصرار بر یک ماموریت خاص، میتواند باعث شود واقعیت و آسیبهایی که در حال وقوع است، نادیده گرفته شود. 🚨
—
**نکات کلیدی خبر:**
* OpenAI مانند “امپراتوری هوش مصنوعی” است که با وعده ساخت AGI (هوش مصنوعی عمومی) به سرعت در حال گسترش است. 🌍
* هدف “کمک به بشریت” توجیهی برای تمرکز بر سرعت شده، حتی به قیمت فدا کردن ایمنی و مصرف بیرویه منابع (داده و انرژی). 🔋
* این رویکرد عوارض منفی اجتماعی، اخلاقی و محیطزیستی دارد، در حالی که هوش مصنوعیهای هدفمندتر میتوانند مفیدتر باشند. 💡
* هشدار درباره از دست دادن واقعیت و نادیده گرفتن آسیبها به دلیل اصرار بیش از حد بر ماموریت اولیه شرکت. ⚠️
