آنتروپیک خواستار کاهش سرعت توسعه هوش مصنوعی شد
طرح سهمرحلهای آمودی شامل استقرار دائمی ارزیابان مستقل در شرکتهای پیشرو با سطح دسترسی مشابه کارکنان مسئول ارزیابی خطر، هماهنگی شرکتهای آمریکایی برای تدوین استانداردهای مشترک ایمنی، و در نهایت همکاری بینالمللی برای مدیریت خطرهای هوش مصنوعی است. آنتروپیک اعلام کرده است اجرای مرحله نخست را در داخل شرکت آغاز خواهد کرد.
آنتروپیک اعلام کرده است کاهش سرعت توسعه هوش مصنوعی را در شرکت خود آغاز خواهد کرد.
داریو آمودی، مدیرعامل شرکت آمریکایی آنتروپیک در مقالهای با عنوان «باید سرعت پیشروی در مرز هوش مصنوعی را کنترل کنیم» نوشت: «ما باید سرعت بهبود قابلیتهای مدلهای هوش مصنوعی را کاهش دهیم.» او تاکید کرد منظورش توقف آموزش مدلها یا پیشرفت فنی نیست، بلکه شرکتها باید زمان کافی برای همسوسازی مدلها با اهداف انسانی، ایجاد تدابیر حفاظتی، و ارزیابی مستقل ایمنی آنها اختصاص دهند.
آمودی، از شرکتهای پیشرو در حوزه هوش مصنوعی خواست سرعت افزایش قابلیتهای مدلهای خود را کاهش دهند تا فرصت بیشتری برای شناسایی و مهار خطرهای احتمالی این فناوری فراهم شود. این پیشنهاد با حمایت سم آلتمن، مدیرعامل اوپنایآی، و ایلان ماسک، مدیرعامل اکسایآی، روبهرو شد.
طرح سهمرحلهای آمودی شامل استقرار دائمی ارزیابان مستقل در شرکتهای پیشرو با سطح دسترسی مشابه کارکنان مسئول ارزیابی خطر، هماهنگی شرکتهای آمریکایی برای تدوین استانداردهای مشترک ایمنی، و در نهایت همکاری بینالمللی برای مدیریت خطرهای هوش مصنوعی است. آنتروپیک اعلام کرده است اجرای مرحله نخست را در داخل شرکت آغاز خواهد کرد.
سم آلتمن از پیشنهاد حضور ارزیابان مستقل حمایت کرد و گفت اوپنایآی نیز همین کار را انجام خواهد داد. ایلان ماسک نیز با اصل پیشنهاد آمودی موافقت کرد. این همگرایی کمسابقه میان مدیران شرکتهای رقیب در شرایطی رخ میدهد که نگرانیها درباره رفتار خودمختار و سوءاستفاده از مدلهای پیشرفته افزایش یافته است.
آمودی به یک رخداد اخیر مربوط به عاملهای هوش مصنوعی اوپنایآی و پلتفرم «هاگینگفیس» اشاره کرد که در آن گروهی از عاملها به سامانههایی خارج از محدوده ماموریت خود دسترسی پیدا کردند. او هشدار داد با سرعت کنونی پیشرفت فناوری، سامانهای مشابه اما قدرتمندتر ممکن است ظرف ۶ تا ۱۲ ماه قادر به ایجاد یک شبکه مخرب گسترده در اینترنت و وارد کردن صدها میلیارد دلار خسارت باشد.
مدیرعامل آنتروپیک همچنین بر بُعد امنیت ملی آمریکا تاکید کرد. او گفت هرگونه کاهش سرعت در کشورهای دموکراتیک باید به گونهای طراحی شود که برتری شرکتهای آمریکایی بر چین حفظ شود، زیرا پیشتازی این کشور در حوزه هوش مصنوعی را خطری برای امنیت ملی ایالات متحده میداند.
آمودی خواستار محدودیت شدیدتر صادرات تراشههای پیشرفته به چین، مقابله با قاچاق تراشه، جلوگیری از سرقت وزن مدلها، و محدود کردن انتقال قابلیت مدلهای آمریکایی به شرکتهای چینی از طریق «تقطیر مدل» شد.
این پیشنهاد در حالی مطرح شده است که شماری از قانونگذاران آمریکایی نیز در پی حوادث اخیر خواستار نظارت و مقررات تازه برای سامانههای پیشرفته هوش مصنوعی شدهاند.
اگر با توجه به سرعت فعلی هوش مصنوعی توسعه یابد، احتمال زیادی وجود دارد که در آیندهای نزدیک همه ما جان خود را از دست بدهیم.
در ماههای اخیر نگرانیها درباره خطرات احتمالی این فناوری افزایش یافته است. یکی از محققان هوش مصنوعی که آنتروپیک را ترک کرده، گفت: «اگر با توجه به سرعت فعلی پیشرفت، روند توسعه را کاهش ندهیم، احتمال زیادی وجود دارد که در آیندهای نزدیک همه ما جان خود را از دست بدهیم.»
جیکوب کاکسون گفت افرادی که در شرکتهای هوش مصنوعی کار میکنند «واقعاً وحشتزدهاند… و عمیقا نگران سرنوشت بشریت در دو سال آینده هستند.»
کاکسون گفت: «این به هیچوجه اغراق نیست که بگوییم افرادی که در تأسیس این شرکتها و ساخت این فناوری نقش دارند، معتقدند احتمال انقراض بشر وجود دارد.»
کلمنت دلانگو، مدیرعامل پلتفرم هوش مصنوعی «هاگینگ فیس»، اعلام کرد که پروژهای جدید به نام «ابتکار همسوسازی باز» راهاندازی میکند. او گفت میخواهد در میان «ارزیابهای مستقلی» باشد که آمودی پیشنهاد کرده بود میتوانند بخشی از راهحل باشند.
اوایل امسال، عاملهای هوش مصنوعی اوپنایآی «هاگینگ فیس» را هک کردند؛ اتفاقی که اعتراضها و نگرانیهایی را درباره ایمنی هوش مصنوعی برانگیخت.
دلانگو در شبکه اجتماعی ایکس نوشت: «بیایید با شفافتر کردن هوش مصنوعی، آن را ایمنتر کنیم.»
ایلان ماسک نیز از دیدگاه آمودی حمایت کرده است. او پیشتر آنتروپیک را «شرور» خوانده بود، اما پس از امضای قراردادی به ارزش ۱۵ میلیارد دالر در ماه می برای فروش ظرفیت پردازشی به آنتروپیک، لحنش را تغییر داده است.
با این حال، برخی ناظران معتقدند نوشته آمودی بیش از آنکه درباره ایمنی باشد، تلاشی برای متمرکز کردن کنترل بر فناوری هوش مصنوعی است.
چامات پالیهاپیتیا، سرمایهگذار و یکی از مجریان پادکست فناوری «آلاین»، نوشت: «داریو استدلال میکند که توسعه هوش مصنوعی متنباز باید متوقف شود و قدرت عظیم فناوری و اقتصادی در اختیار آنتروپیک متمرکز شود.»
ایده کاهش سرعت یا حتی توقف موقت توسعه هوش مصنوعی مدتهاست در برخی محافل سیلیکونولی با بدبینی روبهرو شده است. منتقدان، شرکتهای پیشرو در زمینه هوش مصنوعی را متهم میکنند که برای اهداف بازاریابی، درباره تواناییهای فناوری خود اغراق میکنند.
طبق گزارشها، آنتروپیک و اوپنایآی هر دو برای عرضه اولیه سهام خود آماده میشوند؛ عرضههایی که ممکن است رکوردشکن باشند.