اینگونه است که افراط گرایان خشن از ابزارهای مولد هوش مصنوعی بهره برداری می کنند

ما با مایکروسافت همکاری خواهیم کرد تا مشخص کنیم آیا راه‌هایی برای استفاده از آرشیو سخت‌افزاری ما برای ایجاد نوعی سیستم تشخیص هوش مصنوعی ژنرال برای مقابله با تهدید نوظهور استفاده از ژنرال هوش مصنوعی در مقیاس وسیع برای محتوای تروریستی وجود دارد یا خیر. هدلی گفت. ما مطمئن هستیم که ژنرال هوش مصنوعی می تواند برای دفاع در برابر استفاده های خصمانه از ژنرال هوش مصنوعی استفاده شود. »

این همکاری امروز، در آستانه اجلاس رهبران فراخوان کرایست چرچ، جنبشی با هدف ریشه کنی تروریسم و ​​محتوای افراطی از اینترنت، که در پاریس برگزار می شود، اعلام شد.

برد اسمیت، معاون و رئیس مایکروسافت در بیانیه‌ای گفت: «استفاده از پلت‌فرم‌های دیجیتال برای انتشار محتوای خشونت‌آمیز افراطی یک مشکل فوری با عواقب واقعی است». ما امیدواریم با ترکیب قابلیت‌های فناوری علیه تروریسم با هوش مصنوعی به ایجاد دنیای امن‌تر، آنلاین و آفلاین کمک کنیم. »

در حالی که شرکت‌هایی مانند مایکروسافت، گوگل و فیس‌بوک همگی بخش‌های تحقیقاتی هوش مصنوعی خود را دارند و احتمالاً منابع خود را برای مبارزه با این مشکل به کار می‌گیرند، ابتکار جدید در نهایت به شرکت‌هایی کمک می‌کند که به تنهایی نمی‌توانند با این مشکل مبارزه کنند.

هادلی می‌گوید: «این امر به‌ویژه برای پلتفرم‌های کوچک‌تری که مراکز تحقیقاتی هوش مصنوعی خود را ندارند، مهم خواهد بود. حتی امروزه، با پایگاه‌های اطلاعاتی هش، پلتفرم‌های کوچک به سادگی می‌توانند تحت تأثیر این محتوا قرار گیرند.»

تهدید محتوای تولیدی هوش مصنوعی به گروه های افراطی محدود نمی شود. ماه گذشته، بنیاد دیده بان اینترنت، یک سازمان غیرانتفاعی مستقر در بریتانیا که برای از بین بردن محتوای استثمار کودکان در اینترنت کار می کند، گزارشی را منتشر کرد که در آن جزئیات حضور رو به رشد مواد سوء استفاده ، از کودکان (CSAM) ایجاد شده توسط ابزارهای هوش مصنوعی در تاریک وب را شرح می دهد. .

  مسئولیت قیمت گذاری خودروهای وارداتی به سازمان حمایت محول شده است

محققان بیش از 20000 تصویر تولید شده توسط هوش مصنوعی را در یک فروم CSAM وب تاریک در عرض یک ماه دریافت کردند که 11108 مورد از این تصاویر توسط محققان IWF به احتمال زیاد مجرمانه شناخته شدند. همانطور که محققان IWF در گزارش خود می نویسند: «این تصاویر هوش مصنوعی می توانند آنقدر قانع کننده باشند که از تصاویر واقعی قابل تشخیص نیستند. »

منبع: https://www.wired.com/story/generative-ai-terrorism-content/