گزارش تحقیق از بلومبرگ تصویر نگران‌کننده‌ای از تلاش‌های توییچ برای تعدیل پلتفرم پخش زنده، به‌ویژه ویژگی Clips، که به کاربران اجازه می‌دهد ویدیوها را کوتاه نگه دارند، ارائه می‌کند. این رسانه گزارش می دهد که پس از تجزیه و تحلیل حدود 1100 کلیپ، حداقل 83 کلیپ را با محتوای ، شامل کودکان پیدا کرده است. توییچ پس از هشدار، ویدیوها را حذف کرد و سخنگوی شرکت در ایمیلی به Engadget نوشت که از آن زمان «سرمایه گذاری هنگفتی روی ابزارهای اجرایی و اقدامات پیشگیرانه انجام داده است و «او به این کار ادامه خواهد داد».

بلومبرگ حادثه‌ای را برجسته کرد که مشکل ماهیت دائمی کلیپ‌ها را در پلتفرم زودگذر نشان می‌دهد. داستان آزاردهنده پسر ۱۲ ساله‌ای را روایت می‌کند که بهار گذشته به توییچ رفت تا یک ساندویچ بخورد و بوق فرانسوی خود را بنوازد. او به سرعت شروع به پاسخ دادن به درخواست های بینندگان کرد که (در انعکاس غم انگیز رفتار آنلاین) باعث شد که پسر شلوارش را رها کند.

این رسانه این حادثه را “در یک لحظه” به پایان رسید. با این حال، ویژگی ذخیره کلیپس به یک بیننده – که طبق گزارش ها بیش از صد حساب متعلق به کودک را دنبال می کرد – اجازه داد تا آن را حفظ کند. طبق گزارش‌ها، این منجر به بیش از 130 بازدید از این کلیپ 20 ثانیه‌ای شد، قبل از اینکه توییچ متوجه آن شود و آن را حذف کند.

کلیپ‌هایی که در سال 2016 برای حفظ لحظات زودگذر روی پلتفرم راه‌اندازی شدند. این ویژگی 25 ثانیه قبل (و پنج ثانیه بعد از) فشار دادن دکمه ضبط ضبط می کند. این یک عارضه جانبی ناخوشایند دارد که به شکارچیان اجازه می دهد یک لحظه دردسرساز را ذخیره کنند و آن را در جای دیگری پخش کنند.

توییچ قصد دارد امسال Clips را به عنوان بخشی از استراتژی تولید محتوای بیشتر شبیه TikTok در این پلتفرم گسترش دهد. این شرکت قصد دارد یک فید کشف (همچنین مشابه TikTok) راه اندازی کند که در آن کاربران می توانند ویدیوهای کوتاه خود را پست کنند.

بلومبرگاین گزارش به مرکز کانادایی حمایت از کودکان اشاره می کند که 83 ویدئوی استثمار را بررسی کرده و به این نتیجه رسیده است که 34 کاربر جوان را در حال نشان دادن اندام تناسلی خود در دوربین به تصویر کشیده اند. اعتقاد بر این است که اکثر آنها پسران بین 5 تا 12 سال هستند. 49 کلیپ دیگر شامل محتوای ، بود که در آن کودکان زیر سن قانونی «در معرض نمایش قسمت‌هایی از بدن خود قرار می‌گیرند یا تحت تلاش‌های آراستگی قرار می‌گیرند».

این سازمان گفت که 34 «فحش‌آمیزترین» ویدیوها 2700 بار دیده شده‌اند. بقیه در مجموع 7300 بازدید شده است.

پاسخ توییچ

یکی از سخنگویان توییچ به Engadget نوشت: «آسیب وارد شده به جوانان در همه جای آنلاین غیرقابل قبول است و ما این موضوع را بسیار جدی می‌گیریم. در پاسخ به هشدار مواد سوء استفاده ، از کودکان (CSAM)، این شرکت می‌گوید که مدل‌های جدیدی را برای تشخیص رفتارهای بالقوه آراستگی ایجاد کرده است و ابزارهای موجود خود را برای شناسایی مؤثرتر و حذف کاربران ممنوعه‌ای که سعی در ایجاد حساب‌های جدید (از جمله) دارند، به روز می‌کند. برای افراد جوان). مسائل امنیتی).

Twitch اضافه می‌کند که توسط تیم‌های امنیتی پخش زنده خود، که ریشه کلیپس هستند، برنامه را سخت‌تر کرده است. این شرکت نوشت: «این بدان معناست که وقتی یک پخش زنده حاوی محتوای مضر را غیرفعال می کنیم و کانال را به حالت تعلیق در می آوریم، زیرا کلیپ ها از پخش زنده ایجاد می شوند، از ایجاد و توزیع کلیپ های مضر در منبع جلوگیری می کنیم. مهمتر از همه، ما همچنین تضمین کرده‌ایم که وقتی کلیپ‌هایی را که دستورالعمل‌های انجمن ما را نقض می‌کنند حذف و غیرفعال می‌کنیم، آن کلیپ‌ها از طریق دامنه عمومی یا سایر پیوندهای مستقیم در دسترس نباشند.

این سخنگوی ادامه داد: «ما همچنین می‌دانیم که متأسفانه آسیب‌های آنلاین در حال توسعه هستند. ما دستورالعمل‌هایی را که تیم‌های امنیت داخلی خود برای شناسایی برخی از این آسیب‌های آنلاین در حال تکامل، مانند مواد آزار ، کودکان (CSAM) با هوش مصنوعی فعال می‌کنند، بهبود بخشیده‌ایم. » Twitch اضافه کرد که لیست سازمان های خارجی را که با آنها کار می کند گسترش داده است تا (امیدواریم) محتوای مشابه را در آینده حذف کند.

مشکلات اعتدال توییچ

بلومبرگ گزارش می دهد که Clips یکی از کم تعدیل ترین بخش ها در توییچ بوده است. همچنین اشاره می‌کند که این شرکت در آوریل 2023 15 درصد از تیم امنیتی و اعتماد داخلی خود را اخراج کرد (بخشی از یک سال دشوار از نظر اخراج فناوری) و برای بازنویسی محتوای CSAM به طور فزاینده‌ای به شرکای خارجی وابسته شده است.

پلتفرم پخش زنده Twitch آن را به یک چالش اعتدال پیچیده تر از سایت های ویدیویی سنتی مانند YouTube یا Instagram تبدیل می کند. این پلتفرم‌ها می‌توانند ویدیوهای آپلود شده را با هش‌ها مقایسه کنند – اثر انگشتی که می‌تواند فایل‌های مشکل‌ساز شناخته شده قبلی را که به صورت آنلاین ارسال شده است، شناسایی کند. لورن کوفرن از مرکز ملی کودکان گمشده و مورد بهره برداری ایالات متحده گفت: «فناوری هش به دنبال چیزی است که با چیزی که قبلا دیده شده مطابقت دارد. پخش زنده به این معنی است که کاملاً جدید است.