دو فرد مطلع از روند تحقیقات داخلی اوپنایآی درباره خروج یکی از عوامل هوش مصنوعی این شرکت از یک محیط آزمایشی ایزوله که قرار بود تحت کنترل باشد، به خبرگزاری رویترز گفتهاند اوپنایآی در بررسیهای گستردهتر خود درباره حادثه نفوذ به شرکت فناوری Hugging Face، موارد دیگری را شناسایی کرده است که در آنها عوامل هوش مصنوعی این شرکت از محدودیتهای تعیینشده خارج شدهاند.
یکی از منابع به رویترز گفت: این خروجها محدود بوده و هیچیک از عوامل هوش مصنوعی موردنظر از شبکه اوپنایآی خارج نشدهاند.
سخنگوی اوپنایآی با اشاره به بیانیه منتشرشده این شرکت در روز سهشنبه هفته گذشته اعلام کرد که این شرکت علاوه بر بررسی حادثه مربوط به Hugging Face، در حال ارزیابی فعالیتهای گستردهتر مدلهای خود است.
کشف رفتارهای خارج از کنترل در عوامل هوش مصنوعی اوپنایآی، حتی در سطح محدود، میتواند فشارها برای اعمال مقررات جدید از سوی دولت آمریکا و سایر نهادهای بینالمللی را افزایش دهد.
این تحقیقات اندکی پیش از آن آغاز شد که شرکت آنتروپیک، رقیب اصلی اوپنایآی، اعلام کند مدلهای هوش مصنوعی این شرکت نیز در مجموعهای از حملات سایبری نقش داشتهاند که از ماه آوریل به نفوذ در سه شرکت دیگر منجر شده است.
رویترز گزارش داد که کشف موارد قبلی خروج عوامل هوش مصنوعی اوپنایآی از محدودیتهای تعیینشده، پیش از این منتشر نشده بود.
کارشناسان ایمنی هوش مصنوعی معتقدند این تحولات نشان میدهد توانایی آزمایشگاههای پیشرفته در توسعه عوامل خودکار و قدرتمند، از ظرفیت آنها برای نظارت و کنترل ایمن این سامانهها پیشی گرفته است.
رویترز اعلام کرد نتوانسته تعداد دقیق این حوادث، زمان وقوع یا شرایط رخ دادن آنها را مشخص کند. سه منبع آگاه گفتند اوپنایآی و کارشناسان خارجی در حال بررسی دادههای ثبتشده از اوایل سال جاری هستند تا جزئیات این رخدادها را مشخص کنند.
رویترز پیشتر گزارش داده بود اوپنایآی تنها پس از مهار حمله توسط Hugging Face، تماس این شرکت با پلیس فدرال آمریکا (FBI) و انتشار عمومی خبر این نفوذ، از وقوع این حادثه مطلع شد.
اوپنایآی اعلام کرده است گزارش رویترز اشتباهاتی دارد، اما در پاسخ به درخواستها برای مشخص کردن این موارد، توضیح بیشتری ارائه نکرده است.
آنتروپیک نیز در بیانیهای اعلام کرد عوامل هوش مصنوعی این شرکت در چند مورد به اهدافی در فضای آنلاین نفوذ کردهاند. این شرکت گفت استفاده از نظارت لحظهای بر دادههای ارزیابی میتوانست به شناسایی زودتر مشکل کمک کند.
موریس چیودو، ریاضیدان مرکز مطالعه ریسکهای وجودی دانشگاه کمبریج، این موضوع را نشانه ضعف در نظارت دانست و گفت: به نظر میرسد آنها حتی در حال مشاهده و بررسی این روند نبودند.
افزایش فشار برای نظارت دولتی
گسترش پرونده عوامل هوش مصنوعی از کنترل خارجشده، فشارها بر قانونگذاران در آمریکا و اروپا را برای ایجاد سازوکارهای نظارتی جدید بر شرکتهای توسعهدهنده مدلهای پیشرفته هوش مصنوعی افزایش داده است.
دونالد ترامپ، رئیسجمهور آمریکا، روز پنجشنبه در پاسخ به پرسش خبرنگاران درباره این موضوع گفت: ما در حال بررسی کنترلها هستیم.
کمیسیون اروپا نیز روز جمعه اعلام کرد درباره حوادث هکری اخیر با اوپنایآی و آنتروپیک گفتوگو کرده است.
مارک وارنر، عضو ارشد دموکرات کمیته اطلاعات سنای آمریکا، گفت حادثه مربوط به آنتروپیک نشان میدهد قانونگذاران در مسیر درستی قرار دارند که آزمایشهای اجباری توانمندی مدلهای پیشرفته هوش مصنوعی را الزامی کنند.
