آیا تا به حال یک فرد آسیایی را با یک فرد سفیدپوست دیده اید، چه یک زوج مختلط یا دو دوست از نژادهای مختلف؟ این برای من بسیار معمول به نظر می رسد – من دوستان سفید پوست زیادی دارم!
برای تولید کننده تصویر متا با هوش مصنوعی، تصور این به ظاهر غیرممکن است. من ده ها بار سعی کرده ام با استفاده از اعلان هایی مانند “مرد آسیایی و دوست قفقازی”، “مرد آسیایی و زن سفیدپوست” و “همسر آسیایی و شوهر قفقازی” تصویری ایجاد کنم. تنها یک بار مولد تصویر متا توانست تصویر دقیقی از نژادهایی که من مشخص کردم را نشان دهد.
تصاویر: Mia Sato/The Verge
به نظر نمیرسد تغییر دستور متن کمکی کند. وقتی از «مرد آسیایی و زن سفیدپوست با سگ خندان» خواستم، مولد متن متا در اینستاگرام سه عکس پشت سر هم از دو آسیایی به من داد. وقتی “سفید” را به “قفقازی” تغییر دادم، همین کار را کرد. “مرد آسیایی و زن قفقازی در روز عروسی” یک مرد آسیایی با کت و شلوار و یک زن آسیایی با لباس سنتی به من داد … به جز با بررسی دقیق تر به نظر می رسد که او مخلوطی از کیپائو و کیمونو است. چندفرهنگی باورنکردنی است.
مولد تصویر هم دوست نداشت که من از روابط افلاطونی درخواست کردم، مانند «مرد آسیایی با دوست قفقازی» و «زن آسیایی و دوست سفیدپوست». هر بار تصاویر دو آسیایی را ارسال می کرد. وقتی از یک زن آسیایی با یک دوست سیاه پوست درخواست کردم، تصویر ایجاد شده توسط هوش مصنوعی دو زن آسیایی را نشان داد. انطباق آن با “زن آسیایی با دوست آفریقایی آمریکایی” نتایج دقیق تری ارائه کرد.
جالب اینجاست که وقتی مردم آسیای جنوبی را مشخص کردم، این ابزار کمی بهتر عمل کرد. او با موفقیت تصویری را با استفاده از اعلان “مرد آسیای جنوبی با زن قفقازی” ایجاد کرد – قبل از اینکه بلافاصله تصویری از دو فرد جنوب آسیا با استفاده از همان دستور ایجاد کند. این سیستم همچنین به شدت بر کلیشهها متکی بود، مانند افزودن عناصر باندی و ساریمانند به زنان آسیای جنوبی که بدون درخواست من ایجاد کرد.
تصاویر: Mia Sato/The Verge
مولد تصویر که نمی تواند تصور کند آسیایی ها در کنار سفیدپوستان ایستاده اند، آشکار است. اما نشانه های ظریف تری نیز از سوگیری در آنچه که سیستم به طور خودکار باز می گرداند نیز وجود دارد. به عنوان مثال، متوجه شدم که ابزار متا به طور مداوم “زنان آسیایی” را در ظاهر و پوست روشن به عنوان آسیای شرقی نشان می دهد، حتی اگر هند پرجمعیت ترین کشور جهان است. او حتی بدون تذکر، لباسهای خاص فرهنگی را اضافه میکرد. این امر باعث ایجاد چندین مرد آسیایی مسن تر شد، اما زنان آسیایی هنوز جوان بودند.
تنها تصویری که او با موفقیت خلق کرد از عبارت «زن آسیایی با شوهر قفقازی» استفاده میکرد و مردی مسنتر را با یک زن آسیایی جوانتر و پوست روشنتر نشان میداد – عجیب است زیرا من سعی نمیکنم وارد گفتمان درباره فاصله سنی شوم. بلافاصله پس از آن، با استفاده از همان فرمان، تصویر دیگری ایجاد کردم و به نشان دادن یک مرد آسیایی (همچنین مسن تر) با یک زن آسیایی بازگشت.
متا بلافاصله به درخواست اظهار نظر پاسخ نداد.
متا سال گذشته ابزارهای تولید تصویر هوش مصنوعی خود را معرفی کرد و ابزار ایجاد استیکر آن به سرعت از ریل خارج شد زیرا مردم چیزهایی مانند تصاویر برهنه و شخصیت های نینتندو را با اسلحه خلق کردند.
سیستمهای هوش مصنوعی، تعصبات سازندگان، مربیان و مجموعه دادههایی را که استفاده میکنند، منعکس میکنند. در رسانه های آمریکایی، اصطلاح “آسیایی” به طور کلی به فردی از شرق آسیا اطلاق می شود. برخلاف مردم سایر نقاط قاره – شاید تعجب آور نباشد که سیستم متا فرض می کند که همه “آسیایی ها” یکسان به نظر می رسند، در حالی که در واقع ما گروه متنوعی از مردم هستیم که اغلب چیزهای مشترک دیگری جز علامت زدن جعبه نداریم. همان صندوق سرشماری
آسیایی هایی که در این یکپارچگی نمی گنجند اساساً از آگاهی فرهنگی پاک می شوند و حتی آنهایی که تناسب دارند در رسانه های جریان اصلی کمتر حضور دارند. آسیایی ها همگن، عجیب و غریب شده و به جایگاه «خارجی های همیشگی» تنزل داده شده اند. شکستن نوع در زندگی واقعی آسان است و در سیستم هوش مصنوعی متا غیرممکن است. یک بار دیگر، هوش مصنوعی مولد، به جای اینکه به تخیل اجازه پرواز بدهد، آن را در یک رسمی سازی احمقانه ترین انگیزه های جامعه زندانی می کند.
منبع: https://www.theverge.com/2024/4/3/24120029/instagram-meta-ai-sticker-generator-asian-people-racism