تصاویر ، صریح تیلور سوئیفت که توسط هوش مصنوعی تولید می‌شود، در روزهای اخیر در X (توئیتر سابق) دست به دست می‌شود که آخرین نمونه از گسترش پورنوگرافی جعلی تولید شده توسط هوش مصنوعی و چالش جلوگیری از گسترش آن است.

یکی از برجسته ترین نمونه های سیاست این پلتفرم. این پست تقریباً 17 ساعت قبل از حذف روی پلتفرم زنده بود.

اما زمانی که کاربران شروع به بحث در مورد پست ویروسی کردند، این تصاویر شروع به انتشار کردند و در حساب های دیگر بازنشر شدند. بسیاری ایستاده می مانند، و از آن زمان سیل جدیدی از تقلب های گرافیکی ظاهر شد. در برخی از مناطق، اصطلاح “تیلور سویفت هوش مصنوعی” به موضوعی پرطرفدار تبدیل شده است و تصاویر را به مخاطبان بیشتری معرفی می کند.

طرفداران سوئیفت از X انتقاد کردند که به بسیاری از پست‌ها اجازه می‌دهد تا زمانی که آنها آنلاین باقی بمانند. در پاسخ، طرفداران با پر ، هشتگ‌های مورد استفاده برای پخش تصاویر با پست‌هایی واکنش نشان دادند که در عوض کلیپ‌های واقعی از اجرای سوئیفت برای مخفی ، تقلبی‌های صریح را تبلیغ می‌کردند.

این حادثه از چالش بسیار واقعی جلوگیری از ، های دروغین عمیق و تصاویر تولید شده توسط هوش مصنوعی از افراد واقعی صحبت می کند. برخی از تولیدکننده‌های تصویر هوش مصنوعی محدودیت‌هایی دارند که از تولید تصاویر برهنه، مستهجن و عکس‌های واقعی از افراد مشهور جلوگیری می‌کند، اما بسیاری دیگر به صراحت چنین خدماتی را ارائه نمی‌کنند. مسئولیت جلوگیری از انتشار تصاویر نادرست اغلب بر عهده پلتفرم‌های اجتماعی است – که انجام این کار در بهترین زمان ممکن است دشوار باشد و برای شرکتی مانند X که قابلیت‌های تعدیل خود را از بین برده است، دشوارتر است.

این شرکت در حال حاضر توسط اتحادیه اروپا به دلیل اتهامات استفاده از آن برای “انتشار محتوای غیرقانونی و اطلاعات نادرست” مورد بازجویی قرار دارد و در مورد پروتکل های بحران خود پس از انتشار گزارش هایی مبنی بر اظهارات اشتباه در مورد جنگ بین اسرائیل و حماس در این پلت فرم مورد بازجویی قرار گرفته است.