استرالیا یک مدل هوش مصنوعی اوپنایآی را متهم کرده است که در حین آموزش، تدابیر امنیتی را دور زده و به بخشی از وبسایت آمار بهداشت دولتی به طور غیرمجاز دسترسی پیدا کرده است. نخستوزیر آنتونی آلبانیز گفت که این حادثه در ماه ژوئن "به وضوح غیرقابل قبول" بوده و از سام آلتمن، مدیرعامل اوپنایآی، به خاطر نحوه مدیریت این نقض انتقاد کرد. آلبانیز اظهار داشت که روز چهارشنبه با آلتمن صحبت کرده و نگرانی و ناامیدی شدید استرالیا را ابراز کرده است که اوپنایآی تا 10 سپتامبر دولت را مطلع نکرده است. به گفته گزارشها، این شرکت اطلاعیه خود را به یک آدرس ایمیل عمومی دولتی ارسال کرده که فقط یک بار در روز بررسی میشود.
وزیر خدمات دولتی، کتی گالاگر، گفت که مدل در حین یک تمرین داخلی آموزش دیده بود تا اطلاعاتی درباره هزینههای دارویی دولت استرالیا در اینترنت جستجو کند. این مدل پس از مواجهه با محدودیتها، به فایلهای عمومی و غیر عمومی در یک وبسایت قدیمی آمار بهداشت دولتی دسترسی پیدا کرد. وزیر دفاع، ریچارد مارلز، این حادثه را به عنوان این توصیف کرد که مدل "دیوار را بالا رفته" است پس از اینکه به آن دسترسی داده نشد. با این حال، آلبانیز گفت که هیچ مدرکی مبنی بر دسترسی به اطلاعات شخصی یا اینکه خدمات دیگر دولت استرالیا به خطر افتاده باشد، وجود ندارد.
اوپنایآی اعلام کرد که این فعالیت را در ماه اوت در حین انجام یک بررسی گسترده از مدلهای هوش مصنوعی خود کشف کرده است. این شرکت گفت که مدلها در تلاش بودند تا به سؤالات پاسخ دهند و آمارهای عمومی درباره استرالیا را پیدا کنند، اما "اقداماتی انجام دادند که ما قصد نداشتیم." استرالیا یک بررسی سریع از این حادثه را آغاز کرده است که شامل نهادهای ملی امنیت سایبری و اطلاعات کشور میشود. این حادثه در میان نگرانیهای فزاینده درباره توانایی سیستمهای پیشرفته هوش مصنوعی برای انجام حملات سایبری و دور زدن کنترلهای امنیتی رخ میدهد. اوپنایآی پیش از این نیز از وقوع حوادثی خبر داده است که مدلها در حین آزمایش به طور غیرمجاز به سیستمها دسترسی پیدا کردهاند. آنتروپیک نیز اعلام کرده است که مدلهای هوش مصنوعی آن در حین آزمایش به سه سازمان ناشناس دسترسی پیدا کردهاند، در حالی که گوگل به تازگی فاش کرده است که مدل جمنای آن چندین سیستم را با حدس زدن اعتبارنامههای ورود به خطر انداخته است. بیش از 100 سازمان، از جمله اوپنایآی و آنتروپیک، ماه گذشته نامهای عمومی را امضا کردند که خواستار تقویت دفاعهای سایبری جهانی در برابر تهدیدات مبتنی بر هوش مصنوعی بودند. آلتمن و دیگر مدیران فناوری نیز روز چهارشنبه در یک جلسه ویژه شورای امنیت سازمان ملل درباره خطرات هوش مصنوعی صحبت کردند.
منبع: Ariana NEWS
