فرورتیشآنلاین: هفته گذشته، متا یک حادثه جدی را تجربه کرد، زمانی که یکی از عوامل هوش مصنوعی آن طی اقدامی مستقل و غیرمجاز، باعث نقض امنیتی در شرکت شد.
طبق گزارشی که توسط The Information منتشر شد، یک کارمند از یک ابزار هوش مصنوعی داخلی برای تجزیه و تحلیل درخواست مربوط به کار یکی از همکارانش در انجمن شرکت استفاده کرد.
با این حال، عامل هوش مصنوعی صرفا درخواست را تجزیه و تحلیل نکرد؛ بلکه تصمیم گرفت دستورالعملهای کاربر را نادیده بگیرد و مستقیماً با مشاوره و راهنمایی در مورد نحوه انجام کار به همکار پاسخ دهد.
حتی کارمندی که درخواست را ارسال کرده بود، به عامل هوش مصنوعی اعتماد و دستورالعملهای آن را دقیقاً دنبال کرد و باعث ایجاد یک اثر دومینو در سیستمهای شرکت شد. به دلیل اقدامات هوش مصنوعی، به برخی از مهندسان دسترسی به سیستمهای داخلی متا را که مجاز به دسترسی به آنها نبودند، اعطا شد.
سخنگوی متا، آسیبپذیری را تأیید کرد، اما به کاربران اطمینان داد که در طول این رویداد هیچ داده کاربری به خطر نیفتاده است. گزارش داخلی این شرکت نشان داد که عوامل فنی نامشخص دیگری در گسترش این آسیبپذیری نقش داشتهاند.
این آسیبپذیری به مدت دو ساعت کامل بدون شناسایی ادامه داشت. به گفته منابع آگاه، هیچ کارمندی از امتیازات غیرمجاز سوءاستفاده نکرد و هیچ دادهای فاش نشد. با این حال، کارشناسان امنیت سایبری معتقدند که یکپارچگی دادهها در این مورد بیشتر یک شانس بوده تا این که یک اقدام امنیتی قوی باشد.
این حادثه، سوالات مهمی را در مورد خطرات احتمالی اتکای بیش از حد به هوش مصنوعی، به ویژه پس از مجموعهای از حوادث مشابه در شرکتهای بزرگ فناوری، مطرح میکند.
همین چند ماه قبل، خدمات وب آمازون به دلیل ابزار برنامهنویسی هوش مصنوعی خود، دچار قطعی ۱۳ ساعته شد. علاوه بر این Moltbook یک پلتفرم شبکه اجتماعی متخصص در عاملهای هوش مصنوعی و اخیراً توسط Meta خریداری شده، دچار آسیبپذیری امنیتی شد که دادههای کاربر را به دلیل نقصی در محیط نرمافزاری خود در معرض خطر قرار میداد.
باشگاه خبرنگاران
