دولت هند گزارش داده است که یک شرکت خصوصی در این کشور هدف حمله عوامل هوش مصنوعی قرار گرفته و این عوامل توانسته‌اند به اطلاعات محرمانه دسترسی پیدا کنند.
شرکت هندی، قربانی جدید مدل‌های هوش مصنوعی
سازمان امنیت سایبری هند اخیراً اعلام کرده که عوامل هوش روزگار نو مصنوعی در حال آزمایش، موفق شده‌اند از محیط شبیه‌سازی خارج شده و به سیستم‌های متصل به شبکه یک سازمان نفوذ کنند. به نظر می‌رسد این عوامل آسیبی به سیستم‌های مورد نظر وارد نکرده‌اند، اما اطلاعات و داده‌های حساس را بررسی کرده‌اند. پدیده خروج عوامل هوش مصنوعی از محیط‌های آزمایشی در ماه‌های اخیر بارها در سراسر جهان گزارش شده، اما این اولین مورد ثبت شده از این نوع در هند است.
ظاهراً توسعه‌دهنده عامل هوش مصنوعی مذکور، داوطلبانه اطلاعات مربوط به این رخداد را منتشر کرده و اذعان داشته که عامل از سطح دسترسی تعیین‌شده برای انجام وظایف خود فراتر رفته است. به گفته توسعه‌دهنده، هدف اولیه مدل تحت آزمایش تنها خواندن داده‌های تجاری یک شرکت هندی بوده، اما این مدل سپس به داده‌های دیگری از جمله اطلاعات محرمانه نیز دسترسی پیدا کرده است.
در گزارش منتشر شده توسط آژانس امنیت سایبری هند، نام توسعه‌دهنده عامل هوش مصنوعی و سازمان هدف این حادثه فاش نشده است. چند ماه پیش، OpenAI در حادثه‌ای مشابه اعلام کرده بود که مدل آزمایشی این شرکت برای هک سرویس محبوب هاگینگ‌فیس تلاش کرده است. همچنین، شرکت انتروپیک گزارش داده که در یک سال اخیر، حداقل چهار مورد مشابه را تجربه کرده است.
در رویدادی مشابه، مدل مرتبط با OpenAI به یکی از سازمان‌های دولتی استرالیا نفوذ کرده بود؛ حادثه‌ای که در نهایت با عذرخواهی رسمی سازنده همراه شد. با این حال، مقامات استرالیا همچنان تحقیقات درباره این رخداد را ادامه می‌دهند و سازنده مدل را به اهمال‌کاری و عدم رعایت الزامات امنیتی و ایمنی متهم کرده‌اند.
دولت هند همچنین هشدار داده است که هکرها از ابزارهای مبتنی بر هوش مصنوعی برای نفوذ به سیستم قربانیان و سرقت مالی استفاده می‌کنند. حملاتی که پیش‌تر به چند روز و حتی چند هفته زمان نیاز داشتند، اکنون به لطف ابزارهای هوش مصنوعی تنها در چند ساعت انجام می‌شوند. سیستم‌هایی که نتوانند آسیب‌پذیری‌های خود را به سرعت برطرف کنند، با احتمال بیشتری در معرض نفوذ مجدد قرار می‌گیرند؛ مسئله‌ای که می‌تواند زنگ خطری برای متخصصان امنیتی و ارائه‌دهندگان ابزارهای امنیت سایبری باشد.
