تشکیل کنسرسیوم ایمنی برای مقابله با خطرات هوش مصنوعی

به  گزارش خبرگزاری علم و فناوری آنا به نقل از رویترز، دولت بایدن چند روز پیش گفت که شرکت‌های پیشرو هوش مصنوعی در میان بیش از ۲۰۰ نهادی هستند که به یک کنسرسیوم جدید آمریکایی برای حمایت از توسعه و استقرار ایمن هوش مصنوعی مولد می‌پیوندند.

جینا ریموندو، وزیر بازرگانی، کنسرسیوم موسسه ایمنی هوش مصنوعی آمریکا (AISIC) را اعلام کرد که شامل اوپن‌ای‌آی، آلفابت، گوگل آنتروپیک و مایکروسافت به همراه پلتفرم‌های متن باز فیسبوک، اپل، آمازون، انویدیا، پالانتیر، اینتل، جی‌پی مورگان چیس و بانک آمریکا می‌شود.

ریموندو در بیانیه‌ای گفت: دولت آمریکا نقش مهمی در تنظیم استاندارد‌ها و توسعه ابزار‌های مورد نیاز برای کاهش خطرات و مهار پتانسیل عظیم هوش مصنوعی دارد.

این کنسرسیوم که شامل بی پی، سیسکو سیستمز، آی بی ام، هیولت پاکارد، نورثوپ گرومن، مسترکارت، ویزای کوالکام و موسسات دانشگاهی بزرگ و آژانس‌های دولتی نیز می‌شود، زیر نظر موسسه ایمنی هوش مصنوعی آمریکا (USAISI) قرار خواهد گرفت.

این گروه وظیفه دارد روی اقدامات اولویت بندی شده در فرمان اجرایی هوش مصنوعی رئیس جمهور بایدن از جمله تدوین دستورالعمل‌هایی برای تیم قرمز، ارزیابی قابلیت، مدیریت ریسک، ایمنی و امنیت و واترمارک کردن محتوای مصنوعی کار کند.

شرکت‌های بزرگ هوش مصنوعی سال گذشته متعهد شدند که محتوای تولیدشده توسط هوش مصنوعی را برای ایمن‌تر کردن این فناوری علامت گذاری کنند. تیم قرمز سال‌ها است که در امنیت سایبری برای شناسایی خطرات جدید استفاده می‌شود و این اصطلاح به شبیه سازی‌های جنگ سرد آمریکا اشاره دارد که در آن دشمن «تیم قرمز» نامیده می‌شد.

براساس دستورالعمل بایدن آژانس‌ها موظف هستند تا استاندارد‌هایی را برای این آزمایش تعیین کنند و به خطرات شیمیایی، بیولوژیکی، رادیولوژیکی، هسته‌ای و امنیت سایبری مرتبط بپردازند.

در ماه دسامبر، وزارت بازرگانی گفت که نخستین گام را به سمت نوشتن استاندارد‌ها و راهنمایی‌های کلیدی برای استقرار و آزمایش ایمن هوش مصنوعی برداشته است.

بازرگانی گفت که این کنسرسیوم بزرگ‌ترین مجموعه تیم‌های تست و ارزیابی را تشکیل می‌دهد و بر ایجاد پایه‌هایی برای علم اندازه گیری جدید در ایمنی هوش مصنوعی تمرکز خواهد کرد.

هوش مصنوعی مولد – که می‌تواند در پاسخ به درخواست‌ها متن، عکس و ویدئو ایجاد کند – هیجان و همچنین ترس از منسوخ شدن برخی مشاغل، به تعویق انداختن انتخابات و غلبه بالقوه بر انسان‌ها و اثرات فاجعه بار را برانگیخته است.

همچنان که دولت بایدن درحال پیگیری پادمان هاست، تلاش‌ها در کنگره برای تصویب قوانین مربوط به هوش مصنوعی علی رغم پیشنهاد‌ها قانونی متعدد متوقف شده است.