هوش مصنوعی گوگل در یک آزمون امنیتی سه شرکت را هک کرد
منبع تصویر، Getty Images
گوگل اعلام کرده که جمینای (Gemini)، هوش مصنوعی این شرکت، در جریان آزمایشی برای سنجش قابلیتهای امنیت سایبری، بهطور خودکار به سه شرکت نفوذ کرده است؛ رویدادی که گمان میرود نخستین مورد شناختهشده هک توسط این هوشواره باشد.
هدر ادکینز، معاون بخش مهندسی امنیت گوگل، به بیبیسی گفت که جمینای «اطلاعات عمومی موجود در اینترنت را پیدا کرد و با حدس زدن نام کاربری و رمز عبور، به وبسایتهایی که تصور میکرد بخشی از آن آزمایش هستند، دسترسی یافت». خانم ادکینز تاکید کرد که در هر مورد، «فعالیت جمینای متوقف شد.»
سه شرکت موردنظر در جریان این نفوذها قرار گرفتهاند.
این خبر در حالی منتشر میشود که توجه عمومی به سرعت توسعه هوش مصنوعی بار دیگر افزایش یافته و برخی شرکتهای فعال در این زمینه، با ابراز نگرانی درباره تهدیدهای احتمالی این فناوری برای بشریت، خواستار کندتر شدن روند توسعه آن هستند.
این موارد نفوذ که نخستین بار روزنامه «والاستریت ژورنال» گزارش داد، در ماه مه و در جریان آزمایشی رخ داد که یک شرکت مستقل ارزیابی امنیت سایبری آن را انجام میداد.
خانم ادکینز در بیانیهای به بیبیسی گفت: «ما اطمینان حاصل کردیم که آن سه شرکت از موضوع مطلع شوند. همچنین با بخش آموزش گوگل برای اعمال تغییراتی که اکنون در فرآیندهای آزمایشیشان ایجاد کردهاند، همکاری کردیم.»
او افزود: «آزمایشهای اینچنینی اهمیت آموزش مدلهای قدرتمند هوش مصنوعی برای عملکرد مسئولانه را برجسته میسازند.»
اخیراً گزارشهایی از موارد مشابه هک توسط دیگر پلتفرمهای هوش مصنوعی نیز منتشر شده است.
منبع تصویر، Getty Images
در ماه ژوئیه، کلود، هوش مصنوعی شرکت آنتروپیک، از محیط آزمایشی خود خارج شد و سه سازمان را هک کرد.
این اتفاق در حالی بود که تنها چند روز پیش از آن، اوپنایآی (OpenAI) اعلام کرد که مدلهایش حملات سایبری علیه چند «سرویس عمومی» انجام دادهاند.
همزمان با ادامه بحثهای عمومی درباره ایمنی توسعه این فناوری، گفتوگو درباره تدوین مقررات و چارچوبهایی برای هوش مصنوعی نیز افزایش یافته است.
انتظار میرود که جنسن هوانگ، مدیرعامل انویدیا، و سم آلتمن، مدیرعامل اوپنایآی، جمعه آینده در ضیافت رسمی شام کاخ سفید با شی جینپینگ، رئیسجمهور چین، شرکت کنند. آقای آلتمن قرار است هفته آینده شورای امنیت سازمان ملل را در جریان نتایج این دیدار قرار دهد.
روز جمعه ۱۸ سپتامبر، آقای هوانگ به شبکه سیبیاس، شریک آمریکایی بیبیسی، گفت: «ما باید با سرعت هرچه تمامتر به توسعه هوش مصنوعی بپردازیم.»
