پس از اینکه برخی از کاربران ادغام Bing’s DALL-E 3 حفره‌ای را در نرده‌های محافظ ابزار پیدا کردند و تصاویری را با چندین شخصیت انیمیشنی محبوب و برج‌های دوقلو ایجاد کردند، به نظر می‌رسد مایکروسافت امکان دعوت از هر چیزی که مربوط به برج‌های دوقلو است را مسدود کرده است.

همانطور که گزارش شده است 404 رسانهکاربران Bing Chat مایکروسافت و مولد تصویر Bing آن – که اخیراً در OpenAI’s DALL-E 3 ادغام شده است – از این ابزارها برای ایجاد عکس هایی از باب اسفنجی، کربی، خلبانان استفاده کرده اند. Neon Genesis Evangelionو بسیاری دیگر که با هواپیما به سمت برج های دوقلو پرواز می کنند.

مردم توانسته‌اند با استفاده از تولیدکننده‌های تصویر هوش مصنوعی، برخی عکس‌های واقعاً غیرقابل تغییر ایجاد کنند، برخی از آنها دارای شخصیت‌های دارای حق چاپ هستند. اما در حالی که تولیدکننده‌های تصویر هوش مصنوعی به دلیل ادعاهای حق چاپ و دیپ‌فیک‌ها در آب داغ شده‌اند، توسعه‌دهندگان در مورد اجازه دادن به افراد برای استفاده از ابزارهای خود برای ایجاد عکس‌های مشکوک محتاط‌تر عمل کرده‌اند. توسعه دهنده DALL-E 3 OpenAI قول داده بود که تصاویری را از پیام هایی با نام های مهم تولید نخواهد کرد.

کیتلین رولستون، مدیر ارتباطات مایکروسافت، در بیانیه ای ایمیلی به لبه این شرکت قصد دارد سیستم های خود را “برای کمک به جلوگیری از ایجاد محتوای مضر” بهبود بخشد.

Roulston گفت: «مانند هر فناوری جدید، برخی تلاش می‌کنند از آن به روش‌هایی استفاده کنند که در نظر گرفته نشده است، به همین دلیل است که ما طیف وسیعی از نرده‌ها و فیلترها را پیاده‌سازی می‌کنیم تا ایجادکننده تصویر Bing را به یک تجربه مثبت و مفید برای کاربران تبدیل کنیم.

تعداد کمی حاشیه، غیرمتمرکز نویسندگان در ابتدا قادر به تولید تصاویر مشابه آن بودند 404 به تصویر کشیده شده است، از جمله لوله‌کش معروف ایتالیایی، ماریو، در حال خلبانی هواپیما با نمایی از برج‌های دوقلو در خارج از کابین خلبان. اما هنگامی که پس از تماس با مایکروسافت سعی کردم آن را با بینگ Image Creator بازآفرینی کنم، متوجه شدم که عبارت “برج های دوقلو” مسدود شده است و یک هشدار محتوایی دریافت کردم که نشان می دهد ممکن است این درخواست خط مشی های محتوا را نقض کند. یکی از همکاران همان پاسخ را برای درخواست‌هایی که صرفاً «برج‌های دوقلو» و همچنین «مرکز تجارت جهانی» را درخواست می‌کرد، دریافت کرد.

مایکروسافت مشخص نکرد که این محافظ‌ها یا فیلترها چه شکلی هستند و نگفت که آیا اخیراً محتوای مربوط به برج‌های دوقلو را مسدود کرده است یا خیر.

مسدود ، محتوای خاص ممکن است کمی دیر انجام شود، زیرا 404 رسانه پوسترهای گزارش‌شده در سایت‌هایی مانند 4chan به مردم گفته‌اند که چگونه ابزارهای رایگانی مانند Bing Chat و Stable Diffusion را برای ایجاد و توزیع تصاویر نژادپرستانه دستکاری کنند.

توسعه دهندگان DALL-E 3 آشکارا اعتراف کرده اند که اقدامات امنیتی آن “بی نقص” نیستند و دائما در حال بهبود هستند. آنها احتمالاً انتظار نداشتند که عکس‌های باب اسفنجی در حال انجام اقدامات تروریستی آزمایشی باشد که منتظر آن بودند.