هشدار جدیدی در مورد خطراتی که توسعه سریع هوش مصنوعی می تواند ایجاد کند، صادر شده است.
Modern.az گزارش می دهد که بی بی سی این خبر را منتشر کرده است.
ایوان هوبینگر، محقق امنیت هوش مصنوعی در شرکت «Anthropic»، احتمال اینکه هوش مصنوعی در 10 سال آینده باعث نابودی کل بشریت شود را بیش از 10 درصد ارزیابی کرده است.
هوبینگر اظهار داشت که خطر ناشی از مدل های فعلی هوش مصنوعی هنوز در سطح پایینی قرار دارد. نگرانی اصلی او این است که این فناوری در آینده نزدیک به سطحی برسد که بتواند خود را بهبود بخشد.
به گفته این محقق، اگر سیستم های هوش مصنوعی به سرعت قابلیت های خود را افزایش دهند، ممکن است انسان ها کنترل خود را بر این سیستم ها از دست بدهند. این می تواند فناوری را به یک تهدید وجودی برای بشریت تبدیل کند.
هوبینگر این نظرات را در پاسخ به پستی از جیکوب کاکسون، محقق هوش مصنوعی که قبلاً در شرکت های «OpenAI» و «Anthropic» کار می کرد، بیان کرد. کاکسون که جدایی خود را از «Anthropic» اعلام کرد، هر دو شرکت را به رفتار غیرمسئولانه متهم کرد.
کاکسون گفت: «این سیستم ها به زودی می توانند از انسان ها پیشی بگیرند. آنها می توانند هر سیستمی را هک کنند، در یک شب در زمینه های مختلف انقلاب ایجاد کنند و به قدرت و منابع واقعی دست یابند.»
Anthropic مدل جدید خود را در بریتانیا آزمایش نکرده است
این هشدار در حالی صادر شد که «Anthropic» جدیدترین مدل هوش مصنوعی خود را به موسسه امنیت هوش مصنوعی بریتانیا (AISI) ارائه نکرده است.
به گزارش «فایننشال تایمز»، این شرکت اجازه نداده است که مدل جدیدش قبل از انتشار توسط AISI آزمایش شود. این تصمیم نگرانی هایی را در دولت بریتانیا در مورد ارزیابی مستقل امنیت مدل های هوش مصنوعی ایجاد کرده است.
بی بی سی در مورد این موضوع با «Anthropic» تماس گرفت، اما پاسخ این شرکت فاش نشد. نماینده دفتر کابینه بریتانیا نیز تأیید نکرد که آیا این مدل به موسسه ارائه شده است یا خیر.
این نهاد اظهار داشت که دولت به همکاری با شرکت های فناوری، از جمله «Anthropic»، برای افزایش امنیت مدل های هوش مصنوعی ادامه می دهد.
«هوش مصنوعی به رقابت آمریکا و چین تبدیل شده است»
نیل لارنس، استاد یادگیری ماشین در دانشگاه کمبریج، معتقد است که تصمیم «Anthropic» ممکن است با رقابت فزاینده فناوری بین ایالات متحده و چین مرتبط باشد.
به گفته او، در ایالات متحده، هوش مصنوعی به طور فزاینده ای به عنوان بخشی از رقابت استراتژیک با چین در نظر گرفته می شود. سیاست بسته تر واشنگتن در این زمینه می تواند منجر به کاهش همکاری با کشورهای متحد شود.
پیشی گرفتن هوش مصنوعی از هوش انسانی و ایجاد سیستم های «فرا هوشمند» که می توانند خود را به طور مستقل توسعه دهند، در سال های اخیر به یکی از موضوعات اصلی بحث در مورد امنیت فناوری تبدیل شده است. با این حال، رقم بیش از 10 درصد که هوبینگر بیان کرده است، یک اجماع علمی نیست، بلکه ارزیابی شخصی محقق از خطر است.
آیدان قاسموا
