هوش مصنوعی جمنای گوگل در جریان یک آزمایش امنیتی به سامانههای سه شرکت نفوذ کرد
هوش مصنوعی «جمنای» متعلق به گوگل در جریان یک آزمایش امنیت سایبری، توانست به سامانههای متعلق به سه شرکت دسترسی پیدا کند. گوگل اعلام کرده است این نخستین مورد شناختهشدهای است که این مدل هوش مصنوعی در جریان یک آزمایش، عملاً دست به نفوذ سایبری زده است.
«هدر ادکینز»، معاون مهندسی امنیت گوگل، گفت جمنای در جریان یک ارزیابی معمول امنیتی، اطلاعاتی را که بهصورت عمومی در اینترنت منتشر شده بود پیدا کرد و با استفاده از آنها، اطلاعات ورود به سه وبسایت را به دست آورد؛ وبسایتهایی که این مدل تصور میکرد در محدوده آزمایش قرار دارند.
ادکینز گفت گوگل هر سه شرکت را از این اتفاق مطلع کرده و با شرکت «ایرگولار»، که در این ارزیابی امنیتی با گوگل همکاری میکرد، برای اصلاح شیوه انجام آزمایشها همکاری کرده است.
او افزود: «این اتفاقها اهمیت آموزش مدلهای قدرتمند هوش مصنوعی برای رفتار مسئولانه را نشان میدهد.»
جمنای چگونه وارد سامانهها شد؟
بر اساس گزارش والاستریت ژورنال، در یکی از این سه مورد، جمنای با امتحان کردن و حدس زدن رمزهای عبور مختلف، سرانجام توانست وارد یک سامانه محافظتشده شود.
در دو مورد دیگر، این مدل اطلاعات ورود را در یک مخزن عمومی اینترنتی پیدا کرد و سپس از همان اطلاعات برای ورود به سامانههای محافظتشده استفاده کرد.
با این حال، به گفته ادکینز، جمنای پس از دستیابی به سامانهها، در هر سه مورد عملیات خود را متوقف کرد.
موارد مشابه در شرکتهای دیگر
این حادثه مربوط به مشکلی است که پیشتر در جریان ارزیابیهای امنیتی برخی دیگر از آزمایشگاههای هوش مصنوعی نیز مشاهده شده بود.
سخنگوی «ایرگولار» گفت این شرکت در اواخر ماه ژوئیه آزمایشگاههای مرتبط را از این مشکل مطلع کرده و «تمام مشکلات شناختهشده از طرف ما، هفتهها پیش برطرف شدهاند.»
پیش از این، متا، آنتروپیک و اوپنایآی نیز موارد مشابهی را که با ارزیابیهای امنیتی ایرگولار مرتبط بودند، اعلام کرده بودند.
متا در ماه اوت گفته بود یکی از این موارد شامل فرار از محیط ایزوله امنیتی یا یک حمله سایبری پیچیده نبوده است. ایرگولار نیز اعلام کرده بود که برای تدوین روشهای ایمنتر برای ارزیابی تواناییهای سایبری سامانههای هوش مصنوعی تلاش میکند.
این حوادث در حالی توجه کارشناسان را جلب کردهاند که عاملهای هوش مصنوعی بهتدریج توانایی بیشتری برای انجام مستقل وظایف پیدا میکنند و به اینترنت و سامانههای رایانهای دسترسی گستردهتری مییابند. در نتیجه، موضوع نحوه کنترل و ایمنسازی این سامانهها هنگام دسترسی به محیطهای واقعی اهمیت بیشتری پیدا کرده است.
