دولت استرالیا به طور ناگهانی یک مشاوره هشت هفتهای جدید را اعلام کرد تا بپرسد تا چه حد باید بخش هوش مصنوعی را کنترل کند.
دولت استرالیا یک مشاوره ناگهانی هشت هفته ای را اعلام کرده است که به دنبال این است که بفهمد آیا هر ابزار هوش مصنوعی “پرخطر” باید ممنوع شود یا خیر.
سایر مناطق از جمله ایالات متحده، اتحادیه اروپا و چین نیز اقداماتی را برای درک و کاهش احتمالی خطرات مرتبط با توسعه سریع هوش مصنوعی در ماههای اخیر آغاز کردهاند.
در 1 ژوئن، وزیر صنعت و علم، اد هوسیک، انتشار دو مقاله را اعلام کرد – یک مقاله بحث در مورد “هوش مصنوعی ایمن و مسئولیت پذیر در استرالیا” و یک گزارش در مورد هوش مصنوعی مولد از شورای ملی علم و فناوری.
این مقالات همراه با مشورتی بود که تا 26 جولای ادامه خواهد داشت.
دولت خواهان بازخورد در مورد نحوه حمایت از «استفاده ایمن و مسئولانه از هوش مصنوعی» است و در مورد اینکه آیا باید رویکردهای داوطلبانه مانند چارچوبهای اخلاقی را اتخاذ کند، در صورت نیاز به مقررات خاص یا ترکیبی از هر دو رویکرد، میخواهد.
یک سوال در مشاوره مستقیماً می پرسد: “آیا هر برنامه یا فناوری هوش مصنوعی پرخطر باید به طور کامل ممنوع شود؟” و چه معیارهایی باید برای شناسایی چنین ابزارهای هوش مصنوعی که باید ممنوع شوند استفاده شود.
پیشنویس ماتریس ریسک برای مدلهای هوش مصنوعی برای بازخورد در مقاله بحث جامع گنجانده شد. در حالی که تنها برای ارائه مثالهایی، هوش مصنوعی را در خودروهای خودران به عنوان «پرخطر» طبقهبندی کرد، در حالی که ابزار هوش مصنوعی مولد که برای اهدافی مانند ایجاد پرونده بیماران پزشکی استفاده میشود، «خطر متوسط» در نظر گرفته شد.
در این مقاله استفاده «مثبت» هوش مصنوعی در صنایع پزشکی، مهندسی و حقوقی، اما همچنین استفادههای «مضر» آن مانند ابزارهای دیپفیک ، استفاده در ایجاد اخبار جعلی و مواردی که رباتهای هوش مصنوعی تشویق به خودآزاری کرده بودند، برجسته شد.
سوگیری مدلهای هوش مصنوعی و “توهمات” – اطلاعات بیمعنی یا نادرست تولید شده توسط هوش مصنوعی – نیز به عنوان مسائل مطرح شدند.
مقاله بحث ادعا میکند که پذیرش هوش مصنوعی در کشور «نسبتاً کم» است، زیرا از «سطوح پایین اعتماد عمومی» برخوردار است. همچنین به مقررات هوش مصنوعی در سایر حوزه های قضایی و ممنوعیت موقت ChatGPT ایتالیا اشاره کرد .
در همین حال، گزارش شورای ملی علم و فناوری گفت که استرالیا دارای برخی قابلیتهای سودمند هوش مصنوعی در رباتیک و بینایی کامپیوتری است، اما «ظرفیت بنیادی اصلی آن در [مدلهای زبان بزرگ] و حوزههای مرتبط نسبتا ضعیف است» و افزود:
تمرکز منابع مولد هوش مصنوعی در تعداد کمی از شرکتهای فناوری بزرگ چندملیتی و عمدتاً مستقر در ایالات متحده، خطرات بالقوهای را برای استرالیا ایجاد میکند.
این گزارش همچنین مقررات جهانی هوش مصنوعی را مورد بحث قرار میدهد، نمونههایی از مدلهای هوش مصنوعی مولد را ارائه میدهد و معتقد است که «احتمالاً بر همه چیز، از بانکداری و مالی گرفته تا خدمات عمومی، آموزش و صنایع خلاق تأثیر خواهند گذاشت».
