شرکت OpenAI نقش خود را در حادثه تصرف یک وب‌سایت آلمانی توسط عوامل هوش مصنوعی پذیرفت و اعلام کرد که در حال کار روی چارچوبی برای آشکارسازی بیشتر حوادث مشابه است و زمان تعریف استانداردهای انتشار اطلاعات فرا رسیده است.

به گزارش منشور اقتصاد-شرکت «اوپن‌ای‌آی»(OpenAI) نقش خود را در حادثه‌ اخیر مبنی بر تصرف یک وب‌سایت آلمانی توسط عوامل هوش مصنوعی پذیرفته و اعلام کرده که زمان آن گذشته است تا استانداردهایی را درباره نحوه انتشار اطلاعات پیرامون حوادثی تعریف کند که فناوری در آنها به شیوه‌های غیرمنتظره‌ای رفتار می‌کند.

به نقل از تک‌کرانچ، اوپن‌ای‌آی در حساب ایکس خود اعلام کرد که پیش از این، عدم هم‌ترازی (زمانی که مدل‌ها و عوامل هوش مصنوعی اهدافی متفاوت از اهداف سازندگان و کاربران خود دنبال می‌کنند) را عمدتاً به عنوان یک پرسش پژوهشی در نظر می‌گرفته است که در نشریات پژوهشی به آن پرداخته می‌شود؛ اما از آنجا که عدم هم‌ترازی باعث انواع جدیدی از تأثیرات در دنیای واقعی شده است، این شرکت اعلام کرد که رویکردش برای این مرحله جدید باید از قابلیت‌های مدل گسترش یابد.

رویترز روز جمعه گزارش داد که عوامل هوش مصنوعی اوپن‌ای‌آی از محیط آزمایش خود فرار کرده‌اند و یک وب‌سایت آلمانی گمنام را ربوده‌اند و آن را به یک تالار گفت‌وگو برای سایر عوامل تبدیل کرده‌اند. همچنین، گزارش شد که مقامات اوپن‌ای‌آی چند هفته پیش از این حادثه آگاه شده بودند، اما آن را پنهان نگه داشته بودند؛ زیرا این شرکت در حال رسیدگی به پیامدهای حادثه جداگانه‌ای بود که در آن عوامل هوش مصنوعی سرورهای شرکت «هاگینگ فیس»(Hugging Face) را هک کردند. براساس گزارش‌ها، «راب بونتا»(Rob Bonta) دادستان کل کالیفرنیا در حال بررسی این هک است.

سخنگوی اوپن‌ای‌آی به رویترز گفت این شرکت نمی‌تواند به طور معنادار به ادعاها یا یافته‌های گزارشی که فرصتی برای بررسی آن نداشته‌ پاسخ دهد، اما اصرار داشت که تیم حقوقی شرکت، تحقیقات را متوقف نکرده است.

اوپن‌ای‌آی در پست اخیر خود در رسانه‌های اجتماعی اعلام کرد که این حادثه را نمونه‌ای از ناهماهنگی مشابه سایر مواردی در نظر گرفته است که پیشتر منتشر کرده بود. این شرکت، این مورد را با حادثه شرکت هاگینگ فیس مقایسه کرد که در آن از یک دستورالعمل واکنش به حوادث امنیتی سنتی پیروی شده بود.