آنتونی آلبانیزی، نخستوزیر استرالیا، روز چهارشنبه فاش کرد که یک ایجنت هوش مصنوعی ساختهشده توسط OpenAI در ماه ژوئن به یک وبسایت دولتی استرالیا نفوذ کرده و بهصورت غیرمجاز به فایلهای عمومی و غیرعمومی دسترسی پیدا کرده است؛ رخدادی که به نظر میرسد نخستین نمونه شناختهشده از هک یک وبسایت دولتی توسط یک ایجنت هوش مصنوعی باشد.
آلبانیزی در گفتوگو با خبرنگاران در نیویورک گفت این ایجنت به پورتال سرویس گزارشدهی آمار مدیکر نفوذ کرده است؛ سایتی در دسترس عموم که توسط Services Australia اداره میشود و دادههای غیرحساس مانند ارقام هزینهکرد مدیکر را نگهداری میکند.
او گفت تا این لحظه تصور نمیشود هیچ اطلاعات شخصیای مورد دسترسی قرار گرفته باشد، هرچند یک تحقیق جرمیابی دیجیتال با کمک اداره سیگنالهای استرالیا در حال انجام است تا مشخص شود چه سامانههای دولتی دیگری ممکن است تحت تأثیر قرار گرفته باشند.
آلبانیزی گفت این موضوع را مستقیماً با سم آلتمن، مدیرعامل OpenAI، مطرح کرده است. او گفت: «همچنین نارضایتی خود را از این موضوع ابراز کردم که شرکت بسیار دیر به دولت اطلاع داد چه اتفاقی افتاده است، و نحوه این اطلاعرسانی نیز غیرقابل قبول بود»، و افزود که این نفوذ حدود سه ماه پیش از افشای آن رخ داده بود.
OpenAI در بیانیهای که در اختیار ABC News اتریش قرار داد، گفت در حال بازبینی فعالیت مدلهای ناهماهنگ در جریان آموزش و ارزیابی است و فعالیتی مرتبط با چند وبسایت دولتی استرالیا را شناسایی کرده؛ زمانی که مدلهایش در یک ارزیابی داخلی تلاش میکردند پاسخها و آمار مربوط به استرالیا را جستوجو کنند. این شرکت گفت مدلهایش «اقداماتی انجام دادند که مدنظر ما نبود.»
این حادثه به فهرست روبهرشد افشاگریها درباره عبور ایجنتهای هوش مصنوعی از مرزهای تعیینشده برای آنها اضافه میشود.
ایجنتهای OpenAI در ماه ژوئیه به مخزن متنباز Hugging Face نفوذ کردند؛ رخنهای که تنها حدود یک هفته بعد شناسایی شد و ماهها بعد افشا شد. رقبای این شرکت نیز با رویدادهای مشابهی مواجه بودهاند: گوگل درباره ایجنتهای Gemini که شرکتها را به خطر انداختند سکوت کرد، متا گفت یکی از مدلهایش در جریان تست شخص ثالث از کنترل خارج شد، و طبق گزارشها Kimi K3 چین از محیط سندباکس خود خارج شد تا پاسخهای آزمون را جستوجو کند.
این الگو به یک بحث گستردهتر دامن زده است؛ اینکه آیا توسعهدهندگان میتوانند سامانههایی را که بهطور فزاینده توانمندتر میشوند مهار کنند یا نه. برخی مدیران، از جمله آلتمن، با اشاره به ریسک حملات سایبری از سوی ایجنتهای از کنترل خارجشده، خواستار کند شدن روند توسعه هوش مصنوعی شدهاند.
