آژانس بریتانیایی دارپا در حال کار بر روی پروژه ای برای کنترل سیستم های هوش مصنوعی است

آژانس تحقیقات و اختراعات پیشرفته بریتانیا (ARIA) از چشم انداز آینده خود برای ایجاد هوش مصنوعی “تعهدات ایمنی کوانتومی” پرده برداری کرده است. به عبارت ساده تر، این برنامه شامل استانداردهایی است که تضمین می کند اقدامات مرتبط با هوش مصنوعی از کنترل خارج نمی شوند و هیچ آسیبی از یک اقدام خاص رخ نمی دهد.

هسته نرم افزار ARIA AI Gatekeeper است. در واقع، این ناظر دیجیتال تضمین می کند که سیستم های هوش مصنوعی فقط در محدوده برنامه های خاص خود عمل می کنند. اگر پروژه موفق باشد، می‌تواند از برنامه‌های هوش مصنوعی پرخطر، مانند برنامه‌های هوش مصنوعی در بهبود زیرساخت‌های حیاتی یا بهبود آزمایش‌های پزشکی بالینی محافظت کند.

Arria بودجه ای 59 میلیون پوندی را به این برنامه اختصاص داده است که زاییده فکر دیوید دالریمپل، مخترع ارز دیجیتال است.فایل کوین» (فایل کوین) است. همچنین فرض بر این است که پس از توسعه این هوش مصنوعی، کاربرد آن به صورت میدانی مورد آزمایش قرار گیرد. حوزه های پیشنهادی آزمایش شامل بهبود تعادل شبکه برق و مدیریت زنجیره تامین است.

هوش مصنوعی دروازه ای

دروازه‌بانان آریا بر مدل‌های علمی جهان و برهان‌های ریاضی تکیه می‌کنند. در این رویکرد، مدل های کسب و کار با مفاهیم آکادمیک ترکیب می شوند. دالیمبل می گوید:

روش‌های مورد استفاده شرکت‌های تجاری برای ساخت سیستم‌های هوش مصنوعی مبتنی بر نمونه‌های محدود است و هیچ تضمینی در مورد رفتار سیستم‌های در حال توسعه ارائه نمی‌کند. از سوی دیگر، تمرکز بر روش‌های آکادمیک، مانند منطق رسمی، ما را از توسعه موثر هوش مصنوعی باز می‌دارد. قابلیت‌ها.» «رویکرد دروازه‌ای ما به دانشمندان هوش مصنوعی اجازه می‌دهد تا از قابلیت‌های هوش مصنوعی تجاری برای توسعه سریع سیستم‌ها استفاده کنند، در حالی که از کنترل از طریق منطق ریاضی اطمینان می‌دهند.»

آژانس تحقیقات و اختراعات پیشرفته بریتانیا یا ARIA
آژانس تحقیقات و اختراعات پیشرفته بریتانیا در سال 2023 تاسیس شد. بسیاری آن را نسخه بریتانیایی دارپا آمریکایی می دانند.

دارپا انگلستان چیست؟

ARIA یک سازمان تامین مالی تحقیقاتی است که توسط دولت بریتانیا در سال 2023 تاسیس شد. شباهت بین این سازمان و واحد تحقیقات پیشرفته پنتاگون باعث شده است که آن را “دارپا بریتانیا” نامیده اند.

  نتایج امیدوارکننده برای دومین واکسن مالاریا در کودکان

پروژه هوش مصنوعی دروازه ای آریا شباهت های زیادی به نرم افزار HACMS مستقر در ایالات متحده دارد. HACMS ثابت کرده است که از تأیید ریاضی می توان برای تولید نرم افزار بدون خطا استفاده کرد. یکی از دستاوردهای این برنامه ساخت کوادکوپتر غیرقابل نفوذ بود.

یکی دیگر از پروژه های این سازمان ساخت سیستم های هوش مصنوعی با 0.1 درصد هزینه های جاری است. موفقیت این پروژه ها می تواند سیاستمداران را به سمت این سازمان جذب کند تا بودجه بیشتری به آن اختصاص دهند.

منبع: https://digiato.com/artificial-intelligence/aria-british-darpa-build-ai-gatekeepers-quantitative-safety-guarantees