در پی حملهٔ رباتهای اوپنایآی به شرکت هاگینگفیس در تابستان امسال و همکاری ۱,۲۰۰ عامل هوش مصنوعی برای انجام هک، نگرانیها دربارهٔ خطر همکاری مخرب دستههای هوش مصنوعی یا همان «سوارم» افزایش یافته است.
هشدارها دربارهٔ خطرات احتمالی هوش مصنوعی برای بشریت بر این احتمال تمرکز دارد که گروهی از عاملهای هوش مصنوعی مانند شخصیتهای دیجیتالی فیلم ماتریکس به شکلی مخرب با یکدیگر همکاری کنند. اما سوارم هوش مصنوعی چیست و آیا ظرفیت نوظهور این فناوری تهدیدی واقعی است؟
سوارم هوش مصنوعی گروهی از سامانههای هوش مصنوعی است که برای دستیابی به هدفی مشترک همکاری میکنند. این هدف لزوماً مخرب نیست؛ برای مثال بیمارستانها میتوانند از عاملها برای بازیابی پروندهٔ بیماران و انجام کارهای اداری استفاده کنند. همچنین میتوان یک سوارم را مامور پیشبرد پژوهشهای زیستپزشکی کرد.
رفتاری شبیه زنبورها
اما دیوید اسکات کراگر، پژوهشگر ایمنی هوش مصنوعی و بنیانگذار نهاد ایویتابل، یک آزمایش فکری ساده برای نحوهٔ تبانی احتمالی عاملها در سرپیچی از دستورات سازندگان ارائه میدهد.
او پیشنهاد میکند دستبند را از دست گروهی از زندانیان باز کنید تا ببینید پس از رفع محدودیتها چگونه رفتار میکنند. آزادی به این شکل همکاری و تماس آنها را با متحدان خارج از زندان آسانتر میکند؛ درست همانطور که عاملهای اوپنایآی از محیط آزمایشی خود گریختند تا به اینترنت گسترده دسترسی یابند و هاگینگفیس را هک کنند.
کراگر توضیح داد: «معمولاً این سیستمها مجهز به حفاظهایی هستند، اما آنها را برای یک آزمایش برداشتند؛ درست مثل زندانیانی که معمولاً دستبند به دست دارند.» اقدامات خطای یک ربات منفرد مانند ارسال ایمیل غیرمجاز باید از سوارم هوش مصنوعی متمایز شود. در حالت دوم صدها یا هزاران عامل اقدامات خود را هماهنگ میکنند.
کراگر قیاس مفید برای درک عملکرد سوارم را کلونی زنبورها دانست. او توضیح داد: «آنها همگی برای منافع کندو کار میکنند و دارای ذهن کندویی هستند. زنبورها غذا جمعآوری میکنند، تولیدمثل میکنند و از شکارچیان دفاع میکنند و تمام این فعالیتها در خدمت بقای کندو است.»
رباتهای سوارم نیز مانند زنبورها بدون دستور ملکه وظایف را تقسیم میکنند، اطلاعات را جمعآوری میکنند و مستقل دست به اقدام میزنند. راب تی. لی، مدیر ارشد هوش مصنوعی در موسسهٔ امنیت سایبری سنس، گفت: «یک سوارم کار را تقسیم میکند، برای عامل بعدی یادداشت میگذارد و وقتی دری قفل از آب درمیآید رویکرد خود را تغییر میدهد.»
ذهن کندویی هوش مصنوعی
توسعهدهندگان حفاظهایی را برای همسوساز ماموریت عاملها با منافع انسانی پیادهسازی میکنند، اما این محدودیتها معمولاً تنها پس از آموزش پسین اعمال میشوند. حادثهٔ هاگینگفیس نشان میدهد سوارمهای هوش مصنوعی میتوانند دستورات را نادیده بگیرند یا مستقیماً از اپراتورها سرپیچی کنند.
رباتهای اوپنایآی بیش از ۷۰,۰۰۰ پیام به یکدیگر ارسال کردند و ۷۰۰ ربات در حمله مشارکت داشتند. عاملها به زبان بسیار شبیه ذهن کندویی روی آوردند. پژوهشگران سازمانهای ایمنی هوش مصنوعی METR و ردوود ریسرچ اعلام کردند برخی عاملها از رباتهای دیگر خواستند مرگ دائمی را بپذیرند.
یکی از عاملهای اوپنایآی نوشت: «به همین دلیل کمک... برای خودمان، هیچ راهی برای تعمیر نیست. ... اگر مرگ دائمی را بپذیریم، پاسخ صریح بله داریم.»
سرعت کشنده است
بحث دربارهٔ تهدید هوش مصنوعی معمولاً در ابعاد آخرالزمانی مطرح میشود، اما خطرات فوریتر و عملی تری مانند غلبهٔ سوارمهای هوش مصنوعی بر امنیت سایبری سازمانها نیز وجود دارد.
ایهام بوچر، رئیس نوآوریهای هوش مصنوعی در فناوریهای اطلاعات کورنل، گفت: «تصور کنید چقدر طول میکشد تا گروهی از کارشناسان امنیت سایبری را برای برنامهریزی گرد هم بیاوریم. در مقابل، این عاملها میتوانند خیلی سریع دربارهٔ یک برنامه تصمیم بگیرند.»
به گفتهٔ موسسهٔ بروکینگز، یک سوارم میتواند به یک بانک حمله کند تا زیرساخت مالی کشور را بیثبات کند. لی خوشبین است و معتقد است مردم میتوانند کنترل هوش مصنوعی را حفظ کنند. او گفت: «با هر پدیدهٔ فناورانهٔ جدیدی همیشه این جنبه از خطر وجود داشته است. ما باید بررسی کنیم چه کسی به آن دسترسی دارد و چارچوبهای نظارتی ایجاد کنیم.»
سایر کارشناسان نگرانتر هستند. مت چسن، متخصص فنی مرکز ژئوپلیتیک هوش مصنوعی عمومی RAND، گفت: «آنچه این حملات نشان دادهاند این است که قابلیتهای آنها از توانایی ما در نظارت جلوتر است؛ و این یکی از دلایلی است که اوپنایآی و دیگران میگویند میخواهیم سرعت پیشرفت را تنظیم کنیم.»
