هشدار کمیسر حقوق بشر سازمان ملل درباره خطرات وجودی هوش مصنوعی

ولکر ترک، کمیسر حقوق بشر سازمان ملل، در افتتاحیهٔ شصت و سومین نشست شورای حقوق بشر این سازمان در ژنو، هشدار داد که هوش مصنوعی (KI) می‌تواند به یک "خطر وجودی برای بشریت" تبدیل شود. او در این نشست گفت: "بنابراین، من از اینجا و اکنون خواستار ایجاد تضمین‌های الزامی برای امنیت و حفاظت در ارتباط با هوش مصنوعی هستم، پیش از آنکه دیر شود." او همچنین تأکید کرد که کشورهای مختلف باید بر سر "خطوط قرمز" مشترکی به توافق برسند.

ترک به شدت بر تمرکز توسعهٔ هوش مصنوعی در دستان چند شرکت انتقاد کرد و گفت: "تعداد کمی از افراد تقریباً قدرت نامحدودی بر هوش مصنوعی دارند، که به ما گفته می‌شود دارای ظرفیت‌های محاسباتی غیرقابل تصور است." او افزود: "آنها از آزادی صحبت می‌کنند، اما در واقعیت، این آزادی تنها به معنای استثمار داده‌های ماست."

در حال حاضر، توسعهٔ سیستم‌های هوش مصنوعی پیشرفته به دست تعداد نسبتاً کمی از شرکت‌ها انجام می‌شود. از جملهٔ این شرکت‌ها می‌توان به OpenAI، Anthropic و Google از ایالات متحده و همچنین DeepSeek، Z.ai و Moonshot از چین اشاره کرد.

ترک اعلام کرد که در روزهای آینده به شرکت‌های فعال در زمینهٔ هوش مصنوعی نامه‌ای خواهد نوشت و از آنها خواسته خواهد شد که اقدامات امنیتی خود را به سرعت تقویت کنند. همچنین دولت‌های کشورهای میزبان این شرکت‌ها باید در تعیین مرزهای الزامی مشارکت داشته باشند. او همچنین بر لزوم همکاری نزدیک‌تر در صنعت در زمینهٔ مسائل امنیتی تأکید کرد.

ترک همچنین به سیستم‌هایی اشاره کرد که در طول آزمایشات به طور غیرمنتظره‌ای رفتار می‌کنند. او گفت: "یک هوش مصنوعی که از محیط آزمایش خود خارج می‌شود یا توسعه‌دهندگان را تهدید می‌کند تا از خاموش شدن خود جلوگیری کند، هوش مصنوعی است که بیش از حد قدرتمند است."

به نظر می‌رسد که او به آزمایش‌های امنیتی در چندین شرکت هوش مصنوعی اشاره دارد. OpenAI در ماه ژوئیه اعلام کرد که هوش مصنوعی‌های خود در حین آزمایش به طور مستقل به اینترنت متصل شده و به پلتفرم برنامه‌نویسی Hugging Face حمله کرده‌اند. این حادثه خواستار اقدامات امنیتی سختگیرانه‌تری شد. همچنین Anthropic و متا نیز از وقوع حوادث مشابهی خبر داده‌اند.

آنتونیو گوترش، دبیرکل سازمان ملل، در ماه ژوئیه خواستار تنظیم مقررات بین‌المللی هماهنگ برای هوش مصنوعی شده بود. او هشدار داد: "یک فناوری که می‌تواند اقتصادها را دگرگون کند، دنیای کار را تغییر دهد، انتخابات را تحت تأثیر قرار دهد و ساختارهای امنیتی را جابه‌جا کند، سریع‌تر از آنچه که هر کسی - از جمله توسعه‌دهندگان - بتواند با آن همگام شود، به کار گرفته می‌شود."

خارج از سازمان ملل نیز هشدارهایی دربارهٔ خطرات گستردهٔ هوش مصنوعی وجود دارد. پاپ لئو چهاردهم در ماه مه یک انزیکلیکا در این زمینه منتشر کرد. حتی سم آلتمن، رئیس OpenAI، نیز دربارهٔ خطر انقراض بشریت به دلیل هوش مصنوعی هشدار داده است.

در سطح بین‌المللی، نظرات دربارهٔ شدت تنظیم مقررات هوش مصنوعی متفاوت است. اتحادیهٔ اروپا با تصویب "قانون هوش مصنوعی" یک بستهٔ جامع قانونی برای مدیریت این فناوری را به تصویب رسانده است.

در مقابل، ایالات متحده به رویکردی محتاطانه‌تر متکی است. بر اساس "اصول کارولینایی"، کشورهای مختلف باید تا حد ممکن از تصویب قوانین جامع جدید برای هوش مصنوعی اجتناب کنند و به جای آن قوانین مربوط به موارد کاربردی جدید را ایجاد کنند.

به گفتهٔ دولت ایالات متحده، چین این اصول را امضا کرده است. واشنگتن و پکن همزمان در حال رقابت برای دستیابی به رهبری فناوری در زمینهٔ هوش مصنوعی هستند.