فرورتیشآنلاین: نگرانیها در آزمایشگاههای هوش مصنوعی در حال افزایش است و منتقدان بر این باورند که رقابت، شرکتهای فناوری را به سمت مدلهای خود-بهبوددهندهای سوق میدهد که خطر خارج شدن از کنترل انسان را به همراه دارند.
جیکوب کاکسون، از پژوهشگران شرکت آمریکایی «آنتروپیک» فعال در حوزه هوش مصنوعی، از فعالیت در این شرکت استعفا کرد و اعلام داشت که نه آنتروپیک و نه «اوپنایآی» مسئولانه عمل نمیکنند.
او که در آموزش مدلهای جدید هوش مصنوعی با استفاده از حجم عظیمی از دادهها تخصص دارد، گفت که این شرکت را ترک میکند زیرا نمیخواهد در تبی که صنعت در راه ساخت سیستمهای هوش مصنوعی به آن دچار شده، شرکت کند و نگران است که چنین سیستمهایی از کنترل خارج شوند و بشریت را نابود کنند.
کاکسون در پستی در شبکه ایکس اعلام کرد: آنها با هوش مصنوعی فوقپیشرفته خود در حال رقابت هستند و با زندگی ما قمار میکنند.
او افزود: قدرت این فناوری را دست کم نگیرید. اینها به زودی سیستمهای فوق بشری خواهند بود که میتوانند هر چیزی را هک کنند، هر زمینهای را یکشبه متحول کنند و قدرت و منابع واقعی را به دست آورند. همه ما شاهد پیشرفت در هر یک از این حوزهها بودهایم و پیشرفت کند نمیشود.
«خودبهبودی» ایدهای است که بر اساس آن، سیستمهای هوش مصنوعی میتوانند بدون دخالت زیاد انسان، خود را بهبود بخشند. اگرچه این ایده عملا محقق نشده است اما آزمایشگاههای هوش مصنوعی در تلاش برای رسیدن به این هدف هستند.
جیکوب کاکسون در بخشی از پیامش هشدار میدهد، افرادی که هوش مصنوعی را میسازند، صادقانه معتقدند که میتواند همه ما را تا پایان دهه بکشد.
اظهار نظر او، واکنش ایوان هوبینگر، سرپرست علوم همترازی در آنتروپیک را در پی داشت که گفت نهتنها سخنان کاکسون درست است، بلکه شرکت آنتروپیک هیچ برنامهای برای مقابله با این سناریو ندارد.
هوبینگر نیز در شبکه ایکس اعلام کرد: جیکوب درست میگوید؛ ما واقعا معتقدیم که هوش مصنوعی میتواند همه انسانها را بکشد! من شخصا فکر میکنم که این احتمال در دهه آینده به بیش از ۱۰ درصد افزایش خواهد یافت. من معتقدم که آنتروپیک تمام تلاش خود را میکند، اما ما هنوز برنامهای برای حل مساله همترازی برای هوش مصنوعی نداریم.
هنوز هیچکدام از دو شرکت آنتروپیک و «اوپنایآی» به درخواست رسانهها برای توضیح در این باره پاسخی ندادهاند.
خودبهبودی بازگشتی (Recursive Self-Improvement) فرآیندی است که در آن، یک سیستم هوش مصنوعی میتواند بدون نیاز به انسان، هوش، سرعت و قابلیتهای خود را ارتقا دهد و شرکت آنتروپیک پیش از این در ماه ژوئن اعلام کرده بود که این قابلیت ممکن است خطرات از دست دادن کنترل انسانها بر سیستمهای هوش مصنوعی را افزایش دهد.
آنتروپیک در یک پست وبلاگی اعلام کرده بود: اگر سیستمها قادر به ساخت کامل جانشینان خود باشند، روشهایی که ما آنها را ایمن میکنیم، بر آنها نظارت میکنیم و رفتار آنها را شکل میدهیم، بسیار مهمتر میشوند.
نگرانیها درباره «هوش مصنوعی خارج از کنترل» چیز جدیدی نیست. ایلان ماسک، مدیرعامل تسلا و اسپیس ایکس، طی چند سال گذشته هشدار داد که هوش مصنوعی میتواند تهدیدی برای بشریت باشد. محققان و دانشگاهیان بزرگ نیز زنگ خطر را درباره از دست دادن کنترل سیستمهای هوش مصنوعی توسط شرکتها به صدا درآوردهاند.
این نگرانیها بویژه پس از آن افزایش یافت که یک مدل «اوپنایآی» در ماه ژوئیه به پلتفرم «هاگینگ فیس» نفوذ کرد. این پلتفرم یک پلتفرم اصلی برای برنامهنویسانی است که منبع نرمافزارها یا پروژههای خود را بهصورت آزادانه در دسترس عموم قرار میدهند تا هر کسی بتواند آن را ببیند و بهبود بخشد است و از آن به عنوان «گیتهاب دنیای هوش مصنوعی» یاد میشود.
یورونیوز
هوش مصنوعی میتواند همه ما را تا پایان دهه بکشد
