یک معلم تربیت بدنی و مدیر سابق ورزشی در دبیرستان شهرستان بالتیمور دستگیر و متهم شده است از سرویس شبیه سازی صوتی هوش مصنوعی برای به دام انداختن مدیر مدرسه استفاده کنید.

بنر بالتیمور گزارش‌ها حاکی از آن است که پلیس شهرستان بالتیمور بر این باور است که ضبط‌شده‌ای که در ماه ژانویه در رسانه‌های اجتماعی منتشر شده بود، همراه با صدای ادعایی مدیر دبیرستان Pikesville، Eric Eiswert، در حال اظهار نظرهای نژادپرستانه و ضدیهودی دروغ بود. کارشناسان گفتند بنر بالتیمور و پلیس که ضبط، که برای مدت کوتاهی منجر به تعلیق Eiswert شد، دارای “لحن صاف، صدای پس زمینه غیرعادی واضح و فقدان صداهای تنفسی منسجم یا مکث” است.

پلیس شهرستان بالتیمور این ضبط را به Dazhon Darien، مدیر ورزشی سابق مدرسه که نامش در کلیپ صوتی نیز ذکر شده بود، دنبال کرد. او ظاهراً برای جستجوی «ابزار OpenAI» به رایانه‌های مدرسه دسترسی داشته است. مشخص نیست دارین از کدام پلتفرم صوتی هوش مصنوعی استفاده می‌کرد. پلیس دارین را پنجشنبه در فرودگاه دستگیر کرد و WBAL TV 11 گزارش می دهد که “بازرسان معتقدند که دارین این ضبط را به انتقام از Eiswert، که در آن زمان رهبری تحقیقات در مورد سوءمدیریت احتمالی بودجه شرکت را بر عهده داشت، انجام داده است.”

در این محیط پرتنش، OpenAI در ماه مارس تصمیم گرفت استفاده عمومی از پلتفرم تولید متن به گفتار هوش مصنوعی خود، Voice Engine را متوقف کند. این سرویس که تنها به یک کلیپ صوتی 15 دقیقه ای برای شبیه سازی صدای افراد نیاز دارد، به دلیل فقدان حفاظت در مورد این فناوری، تنها برای تعداد محدودی از محققان در دسترس است.

قانونگذاران ایالات متحده چندین لایحه مانند قانون بدون تقلب در هوش مصنوعی ارائه کرده اند، اما هنوز تصویب نشده اند، که هدف آن جلوگیری از استفاده شرکت های فناوری از چهره، صدا یا نام یک فرد بدون اجازه وی است.

به روز شده در 25 آوریل: مشخص شد که دبیرستان Pikesville در شهر Pikesville، شهرستان بالتیمور، مریلند است، و جزئیاتی در مورد Darien و دستگیری او در روز پنجشنبه اضافه شد.