Warnsystem gegen Deepfakes: Tom Cruise in der Teams-Schalte
{"headline_fa":"سیستم هشدار دهنده علیه دیپ‌فیک‌ها: تام کروز در تماس ویدئویی تیمز","body_md":"سیستم هشدار دهنده علیه دیپ‌فیک‌ها: تام کروز در تماس ویدئویی تیمز
آخرین به روز رسانی: ۱۱ اکتبر ۲۰۲۶ • ۱۶:۲۴
کنفرانس‌های ویدئویی در شرکت‌ها به یک امر عادی تبدیل شده‌اند. اما در时代ی که هوش مصنوعی و دیپ‌فیک‌ها در حال گسترش هستند، این کنفرانس‌ها به طور فزاینده‌ای در معرض تهدیدات سایبری قرار می‌گیرند. محققان اخیراً یک سیستم هشدار دهنده علیه دیپ‌فیک‌ها را توسعه داده‌اند.
وقتی مارتین اشتاینباخ به شرکت‌های علاقه‌مند یک تماس ویدئویی با دیپ‌فیک‌دتکتور خود را معرفی می‌کند، اغلب با تعجب و ناباوری روبرو می‌شود. زیرا مردی که با او صحبت می‌کند، به دلیل فیلم‌های اکشن многочисلی که بازی کرده است، به همه شناخته شده است. او تام کروز، بازیگر آمریکایی است.
البته، حرکات سر او немного رک و صاف است، اما این را در کنفرانس‌های ویدئویی می‌شناسیم. اما اینکه تام کروز به زبان آلمانی صحبت می‌کند، کمی عجیب است. یا شاید نه.
زیرا مردی که مقابل دوربین لپ‌تاپ نشسته است، تام کروز نیست، بلکه رافائل فریک، کارمند اشتاینباخ است. فریک، دانشجوی دکترا، در توسعه تشخیص دیپ‌فیک‌ها در زمان واقعی نقش مهمی داشته است. و این کار را نه به قصد نمایش، بلکه به قصد توسعه یک سیستم هشدار دهنده علیه دیپ‌فیک‌ها انجام داده است.
تحقیقات در مورد دیپ‌فیک‌ها در کنفرانس‌های ویدئویی
سیستم هشدار دهنده باید بتواند بین واقعی و جعلی، بین انسان واقعی و دیپ‌فیک، تفاوت قائل شود و این کار را در زمان واقعی انجام دهد. زیرا تنها در این صورت می‌تواند به قربانی потенسیل، در حین کنفرانس، هشدار دهد.
همانطور که برنامه‌های دیپ‌فیک سایبری‌ها با هوش مصنوعی تولید می‌شوند، سیستم هشدار دهنده‌ای که محققان توسعه داده‌اند نیز از هوش مصنوعی استفاده می‌کند. این هوش مصنوعی میلیون‌ها داده از برنامه‌های جعلی یا دیپ‌فیک‌هایی که درститут خود با هوش مصنوعی تولید می‌کنند را分析 می‌کند و به این طریق، خود به خود می‌آموزد که چگونه تصاویر ویدئویی واقعی را از تصاویر جعلی区别 کند.
سوال و جواب ۲۹ سپتامبر ۲۰۲۶
بحث در مورد امنیت کیست که در صورت بروز مشکل برای یک هوش مصنوعی، مسئول خواهد بود؟
چه کسی خساراتی را که در صورت 入侵 به سیستم‌های دیگر توسط هوش مصنوعی ایجاد می‌شود، پرداخت خواهد کرد؟ در برخی موارد، این вопросها هنوز پاسخی ندارند.
خطر خسارت بسیار زیاد
تلاش‌هایی که محققان برای توسعه سیستم‌های هشدار دهنده انجام می‌دهند، نشان می‌دهد که چگونه خطر دیپ‌فیک‌ها افزایش یافته است و چه میزان خسارت اقتصادی می‌تواند در صورت عدم وجود سیستم‌های هشدار دهنده ایجاد شود.
«مردم واقعاً در معرض تهدیدات دیپ‌فیک‌ها قرار دارند»، می‌گوید اشتاینباخ. به عنوان مثال، در هنگ کنگ، متهمان توانستند در یک کنفرانس ویدئویی، تمام اعضای هیئت مدیره را تقلید کنند و کارمند را وادار به انتقال ۲۵ میلیون دلار به یک حساب بانکی دیگر کنند.
۲۴ سپتامبر ۲۰۲۶
سخنرانی‌های آلتمن و آمودی سران شرکت‌های بزرگ هوش مصنوعی به شورای امنیت سازمان ملل متحد در مورد خطرات هوش مصنوعی هشدار می‌دهند.
«یک بردار جدید برای کلاهبرداری»
دیپ‌فیک‌ها در زمان واقعی در تماس‌های ویدئویی، یکی از خطرناک‌ترین اشکال جدید کلاهبرداری سایبری در جهان است. اشتاینباخ می‌گوید که در کشور ما نیز، مردم به این موضوع آگاه‌تر شده‌اند. به گفته او، دزدیدن هویت و تقلید هویت یکی از بزرگترین چالش‌ها برای شرکت‌های بزرگ و بانک‌ها است. زیرا «یک بردار جدید برای کلاهبرداری» ایجاد می‌کند که «تاکنون با آن khó می‌توان مقابله کرد».
هوش مصنوعی
این موضوع در برنامه ما: Das Erste | tagesschau | ۰۲ اکتبر ۲۰۲۶ | ۱۴:۰۰
با توجه به اهمیت این موضوع، محققان در تلاش هستند تا سیستم‌های هشدار دهنده‌ای را توسعه دهند که بتوانند دیپ‌فیک‌ها را در زمان واقعی تشخیص دهند و از کلاهبرداری‌های سایبری جلوگیری کنند. این سیستم‌ها می‌توانند به شرکت‌ها و بانک‌ها در محافظت از هویت و اطلاعات مشتریان خود کمک کنند."}
پیوند منبع اصلی: لینک
