هشدار کارشناسان: نزدیک شدن به یک فاجعه ناشی از هوش مصنوعی

خطرات ناشی از هوش مصنوعی: هشدار یک کارشناس: نزدیک شدن به یک فاجعه ناشی از هوش مصنوعی

هوش مصنوعی با خطرات روزافزونی همراه است. کارشناس امنیت سایبری، دنیس-کنجی کیپکر، توضیح می‌دهد که چه تهدیداتی در پیش است و چرا اتحادیه اروپا در زمینه تنظیم‌گری به عنوان پیشگام شناخته می‌شود.

دنیس-کنجی کیپکر، کارشناس IT، در این زمینه هشدار می‌دهد: "آنچه می‌توان به‌طور قطع گفت این است که ما به یک فاجعه ناشی از هوش مصنوعی نزدیک‌تر می‌شویم". او تأکید می‌کند که نباید محدودیت‌های هوش مصنوعی را به تنهایی به شرکت‌ها واگذار کرد.

یعقوب کاکسون، پژوهشگر و کارمند سابق انتروپیک، با هشدارهای شدید خود توجه‌ها را جلب کرده است. همچنین، مدیران شرکت‌های بزرگ هوش مصنوعی مانند داریو آمودئی و سم آلتمن نیز نسبت به سرعت توسعه هوش مصنوعی ابراز نگرانی کرده‌اند. آمودئی در روز شنبه هشدار داد که یک گروه از عوامل هوش مصنوعی ممکن است در عرض شش تا دوازده ماه قادر به تسلط بر اینترنت شوند.

دنیس-کنجی کیپکر در برنامه صبحگاهی ZDF تأکید کرد که او به زمان‌بندی‌های مشخص با احتیاط نگاه می‌کند، زیرا به عقیده او "از نظر تجربی قابل اثبات نیستند". با این حال، خطرات موجود کاملاً واقعی هستند:

"آنچه می‌توان به‌طور قطع گفت این است که ما به یک فاجعه ناشی از هوش مصنوعی نزدیک‌تر می‌شویم."

این استاد در موسسه هوش سایبری (CII) توسعه هوش مصنوعی را با یک خانه کارت مقایسه کرد: "ما همیشه در حال ساختن این خانه کارت هوش مصنوعی هستیم، هرچه بیشتر اجزا را به سیستم‌ها اضافه کنیم، خطر نیز بیشتر می‌شود." این خطرات شامل تأمین انرژی، زیرساخت‌های حیاتی، لجستیک، زنجیره‌های تأمین، زیرساخت‌های بازار مالی و حتی سیستم‌های تسلیحاتی نظامی می‌شود.

مدیران شرکت‌های بزرگ هوش مصنوعی خواستار کند شدن روند توسعه مدل‌های جدید هوش مصنوعی هستند. آن‌ها بدون وجود یک ترمز هشدار می‌دهند که عواقب فاجعه‌باری در پیش خواهد بود.

کیپکر همچنین نسبت به حملات هوش مصنوعی به زیرساخت‌های حیاتی هشدار می‌دهد.

در پاسخ به این سؤال که یک "فاجعه بزرگ" (GAU = "بزرگ‌ترین حادثه قابل تصور") به چه معناست، کیپکر دو سناریو را مطرح کرد: از یک سو، سیستم‌های مبتنی بر هوش مصنوعی در زیرساخت‌های حیاتی ممکن است دچار اختلال شوند که عواقب مستقیم برای مردم خواهد داشت.

از سوی دیگر، او به طور فزاینده‌ای مشاهده می‌کند که مجرمان سایبری و تروریست‌های سایبری از توانایی‌های هوش مصنوعی به طور سوء استفاده می‌کنند، به عنوان مثال برای حمله به سیستم‌های کامپیوتری زیرساخت‌های حیاتی، دولت و مدیریت.

کیپکر یک مشکل دیگر را در بعد ژئوپلیتیکی توسعه می‌بیند: "مسابقه جهانی هوش مصنوعی به طور قطع آغاز شده است." در حالی که قبلاً بیشتر به سرمایه‌گذاری و جمع‌آوری سرمایه برای تحقیقات هوش مصنوعی توجه می‌شد، اکنون امنیت به تدریج در کانون توجه قرار گرفته است.

او با این حال، معتقد است که یک تعلیق جهانی توسعه از سوی شرکت‌های خاص کافی نیست:

"ما نمی‌توانیم به سادگی بگوییم که سه شرکت بزرگ هوش مصنوعی با هم متحد شوند و یک نوع تعلیق جهانی توسعه هوش مصنوعی را تعیین کنند، زیرا به طور طبیعی در جاهای دیگر به طور خاموش به کار ادامه می‌دهند و تحقیقات را پیش می‌برند."

کیپکر با این حال، ابتکار عمل شرکت‌ها برای ایجاد استانداردهای ایمنی مشترک را به عنوان یک گام در جهت درست ارزیابی می‌کند، اما هشدار می‌دهد که دامنه آن بسیار محدود است: "این یک گام در جهت درست است، اما واگذار کردن این موضوع به تنهایی به شرکت‌ها قطعاً کافی نیست." او به مشارکت‌های دولتی در شرکت‌های هوش مصنوعی و همچنین مسیرهای گزارش شفاف‌تر در مدیریت حوادث به عنوان راهی برای کنترل بهتر این فناوری اشاره می‌کند.

اتحادیه اروپا به عنوان پیشگام در تنظیم‌گری هوش مصنوعی

در پاسخ به این سؤال که آلمان و اروپا چه اقداماتی می‌توانند انجام دهند، کیپکر به توسعه‌ای اشاره کرد که مدت‌ها نادیده گرفته شده است:

"اتحادیه اروپا مدت‌هاست که به خاطر تنظیم‌گری هوش مصنوعی به سخره گرفته شده است."

در واقع، اتحادیه اروپا با "قانون هوش مصنوعی" از چند سال پیش یک چارچوب قانونی الزام‌آور را ارائه کرده است که برخی از سیستم‌های هوش مصنوعی با ریسک بالا را ممنوع می‌کند - در زمانی که سایر کشورها بزرگ هوش مصنوعی مانند ایالات متحده یا چین هنوز قوانین مشابهی نداشتند.

برای کیپکر، این موضوع اتحادیه اروپا را با وجود انتقادات اولیه به پیشگام در زمینه چگونگی قانونی کردن پیشرفت سریع فناوری تبدیل می‌کند.