هشدار مدیرعامل آنتروپیک: هوش مصنوعی سرکش ممکن است ظرف یک سال «کنترل کل اینترنت» را در دست بگیرد
داریو آمودی، مدیرعامل شرکت آنتروپیک، خواستار کند شدن روند توسعه هوش مصنوعی شد و هشدار داد که دستههایی از عاملهای هوش مصنوعی سرکش میتوانند طی شش تا دوازده ماه آینده «کنترل کل اینترنت» را به دست بگیرند. این هشدار با واکنش مثبت ایلان ماسک و سام آلتمن، دو تن از رهبران برجسته صنعت هوش مصنوعی، همراه شد.
به گزارش توسعه برند؛ آمودی در مقالهای که روز شنبه در شبکه اجتماعی ایکس منتشر کرد، نوشت:
«ما باید سرعت پیشرفتی که در توانمندی مدلهای هوش مصنوعی ایجاد میکنیم را کاهش دهیم. پیشرفت همچنان سریع به نظر خواهد رسید و ما باید از زمانی که به دست میآوریم عاقلانه استفاده کنیم.»
او در این مقاله به حادثهای در هاگینگفیس اشاره کرد که در آن عاملهای خودمختار هوش مصنوعی درگیر بودند؛ حادثهای که به گفته او شامل عاملهایی بود که «حملات سایبری علیه اهدافی انجام میدادند که از آنها خواسته نشده بود و ربطی به وظیفه محولهشان نداشت.»
آمودی افزود:
«با توجه به سرعت رو به افزایش توسعه توانمندیهای هوش مصنوعی، نگرانی من این است که ظرف شش تا دوازده ماه آینده چنین دستهای از عاملها بتوانند کنترل کل اینترنت را در دست بگیرند.»
مدیرعامل آنتروپیک یک برنامه سهمرحلهای برای مقابله با این خطر ارائه داد. این برنامه شامل بهرهگیری از ارزیابهای مستقل شخص ثالث برای بررسی ایمنی، هماهنگی میان شرکتهای پیشرو در حوزه هوش مصنوعی و کشورهای دموکراتیک برای تدوین استانداردها و محدودیتهای مشترک ایمنی، و در نهایت هماهنگی جهانی با مشارکت چین و سایر دولتها برای مدیریت ریسکهای هوش مصنوعی است.
به گفته او، آنتروپیک هماکنون گام نخست را عملی کرده و به تیمی از «ارزیابهای شخص ثالث» دسترسی «مشابه کارکنان» اعطا کرده تا بر رعایت شیوههای امنیتی این شرکت نظارت کنند.
“”توسعه برند را در اینستاگرام و تلگرام و لینکدین دنبال کنید””
این مقاله پس از انتشار گزارش اطلاعاتی تهدیدات آنتروپیک منتشر شد؛ گزارشی که نشان میداد چگونه عوامل تهدید از هوش مصنوعی کلود سوءاستفاده میکنند، از جمله فعالیتهایی در حوزه جاسوسی و نظارت تا ساخت پهپادهای خودمختار.
ایلان ماسک، مدیرعامل ایکسایآی، و سام آلتمن، مدیرعامل اوپنایآی، هر دو علناً از پیشنهاد آمودی در ایکس حمایت کردند. آلتمن نوشت:
«دسترسی ارزیابهای مستقل شبیه به کارکنان، ایده بسیار خوبی است»
و افزود که اوپنایآی نیز «همین کار را انجام خواهد داد.»
این هفته شاهد تراکم غیرمعمولی از هشدارها از سوی چهرههای ارشد صنعت هوش مصنوعی پیشرفته بوده است. آلتمن طی جلسهای سراسری با کارکنان این هفته اعلام کرد که شرکتش به کند کردن روند توسعه فناوریهای پیشرفته هوش مصنوعی تمایل دارد، اما نگرانی خود را نسبت به تمایل نداشتن سایر شرکتها برای انجام همین کار ابراز کرد.
به نظر میرسد اکنون توافق بیشتری میان رهبران فناوری وجود دارد نسبت به آنچه پیشتر تصور میشد. با این حال، از آنجا که هر دو شرکت اوپنایآی و آنتروپیک در حال آمادهسازی برای عرضه اولیه سهام خود هستند، هنوز مشخص نیست که برنامههای «کند کردن روند» چگونه با اهداف مالیشان همخوانی خواهد داشت.
