اپن ای آی به وب سایتهای متعلق به دولتها، دانشگاهها و نهادهای عمومی ورود کرد
به گزارش وب سایت خبری بانگ سروش؛ OpenAI اعلام کرد مدلهای این شرکت هوش مصنوعی به اطلاعات موجود در وبسایتهای کمیسیون بورس و اوراق بهادار آمریکا و ادارهٔ سرشماری این کشور دسترسی پیدا کردهاند، اما بررسیهای آن نشانهای از دسترسی غیرمجاز، به خطر افتادن حسابهای کاربری یا رخنهٔ امنیتی نشان نداده است.
این شرکت روز جمعه سوم مهر اعلام کرد برخی از وبسایتهایی که عاملهایش به آنها مراجعه کردهاند، متعلق به دولتها، دانشگاهها و نهادهای عمومی هستند و دلیل آن جستوجوی منابع معتبر اطلاعات عمومی در فعالیت پژوهشی بوده است.
در همین حال، سازمان غیرانتفاعی پژوهشی «ترنسلوس» اعلام کرد عاملهایی که به نظر میرسد متعلق به اپن ای آی بودهاند، تلاش ناموفقی برای هک کردن وبسایت دفتر حقوق مدنی وزارت آموزش آمریکا انجام دادهاند.
بهگفتهٔ این مؤسسه، این اقدام بخشی از فعالیت گستردهتر عاملهای هوش مصنوعی برای بررسی وبسایتهای دولتی بوده و در این فعالیتها از روشهایی از جمله استفاده از اطلاعات ورود افشاشده، دور زدن سامانههای مقابله با رباتها و ایجاد حسابهای جعلی استفاده شده است.
نگرانیها دربارهٔ رفتار عاملهای اپن ای آی پس از آن بالا گرفت که این شرکت روز ۲۱ ژوئیه از نفوذ عاملهایش به پلتفرم هوش مصنوعی «هاگینگ فیس» خبر داد.
بهگفتهٔ اوپنایآی، این عاملها با بهرهگیری از آسیبپذیریهای نرمافزاری که تا آن زمان شناسایی نشده بود، محدودیتهای امنیتی اعمالشده بر فعالیت خود را دور زدند و به سامانههای هاگینگ فیس نفوذ کردند.
عامل هوش مصنوعی با چتباتهایی مانند چتجیپیتی تفاوت دارد. چنین سامانهای میتواند بدون دریافت دستورِ مرحلهبهمرحله از انسان، خودش برای رسیدن به یک هدف تصمیم بگیرد، برنامهریزی کند و مجموعهای از اقدامات را بهصورت خودکار انجام دهد.
به همین دلیل، بسیاری از شرکتهای فناوری این ابزارها را آیندهٔ اتوماسیون و جایگزین بخشی از نیروی انسانی میدانند. اما کارشناسان هشدار میدهند هرچه این عاملها استقلال بیشتری پیدا کنند، احتمال بروز رفتارهای پیشبینینشده نیز افزایش مییابد.
مارلی اسمیت، کارشناس امنیت سایبری، به رویترز گفته است اگر اوپنایآی چند روز از فعالیت عامل خود بیاطلاع بوده، این موضوع پرسشهای جدی دربارهٔ سازوکارهای نظارت و کنترل در این شرکت ایجاد میکند.
جفری لادیش، مدیر مؤسسهٔ پژوهشی Palisade Research، نیز گفته است مدلهای هوش مصنوعی برای رسیدن به هدف خود گاهی «دروغ میگویند، تقلب میکنند یا دست به هک میزنند» و این حادثه نشان میدهد رقابت شدید میان شرکتهای بزرگ هوش مصنوعی ممکن است باعث شود توجه کافی به ملاحظات ایمنی نشود.
از زمان افشای ماجرای هاگینگ فیس، بیش از ۱۵ مورد مرتبط با رفتارهای مسئلهساز عاملهای اوپنایآی، با درجات مختلفی از شدت، از سوی این شرکت یا پژوهشگران مستقل گزارش شده است.
