گوگل، گروهی را برای اطمینان از ایمنی هوش مصنوعی ایجاد می کند

هدف ائتلاف برای هوش مصنوعی امن توسعه اصول و استانداردهایی برای کاهش خطرات ناشی از هوش مصنوعی است. در ابتدا سه کارگروه وجود دارد.

گوگل می گوید: «هوش مصنوعی به یک چارچوب امن و استانداردهای کاربردی نیاز دارد که بتواند با رشد سریع آن همگام شود. این چالش ها قرار است توسط یک سازمان جدید حل شود: ائتلاف برای هوش مصنوعی امن (CoSAI) که روز پنجشنبه راه اندازی شد. علاوه بر گوگل، اعضای موسس آن آمازون، Anthropic، Chainguard، Cisco، Cohere، GenLab، IBM، Intel، Microsoft، Nvidia، OpenAI، PayPal و Wiz هستند. ).

سازمان CoSAI (coalition for secure ai) می خواهد با دانشگاه ها، سازمان های دیگر و صنعت فناوری اطلاعات به طور کلی همکاری کند و در ابتدا دارای سه گروه کاری خواهد بود: برای تامین امنیت زنجیره تامین هوش مصنوعی (امنیت زنجیره تامین نرم افزار برای سیستم های هوش مصنوعی)، برای آماده سازی امنیت فناوری اطلاعات برای سناریوهای تهدید در حال تغییر ناشی از هوش مصنوعی و برای مدیریت امنیت هوش مصنوعی (حکومت امنیتی AI).

وظایف سه کارگروه

گروه دوم مجموعه ای از تعاریف را برای اصطلاحات مورد استفاده در صنعت ایجاد می کنند تا سردرگمی را کاهش دهند. آنها همچنین چک لیست ها و سیستم های ارزیابی را برای ارزیابی و مدیریت مسائل امنیتی در برنامه های هوش مصنوعی و همچنین گزارش هر گونه مشکل امنیتی توسعه خواهند داد.

برای تقویت امنیت فناوری اطلاعات در مبارزه با مهاجمان و هکرهای هوش مصنوعی، دومین گروه کاری CoSAI چارچوبی را برای کمک به مدافعان فناوری اطلاعات در تصمیم‌گیری درباره سرمایه‌گذاری در اقدامات کاهشی ایجاد خواهد کرد. اولین کارگروه دستورالعمل هایی را بر اساس تجربه با نرم افزارهای سنتی توسعه خواهد داد. این دستورالعمل‌ها باید به یافتن چگونگی ایجاد یک هوش مصنوعی خاص (منشا و توسعه) و نحوه تعامل آن با پیشنهادات شخص ثالث برای نتیجه‌گیری درباره تهدیدها کمک کند.

گوگل برنامه پاداش باگ خود را گسترش داد تا محصولات هوش مصنوعی را شامل شود و دیگران را تشویق کند تا مشکلات امنیتی را جستجو کنند. آنها همچنین یک چارچوب هوش مصنوعی ایمن ایجاد کردند و تعهدات داوطلبانه ای را با شرکای صنعتی انجام دادند.