کارمندان اوپن‌اِی‌آی در مورد خطرات هوش مصنوعی هشدار دادند
کارمندان اوپن‌اِی‌آی و گوگل دیپ مایند، به تازگی نامه‌ای سرگشاده منتشر کرده‌اند که در آن از خطرات هوش مصنوعی پیشرفته، از جمله انقراض نسل انسان سخن به میان آمده است.
تبلیغات
چندین کارمند فعلی و سابق OpenAI و Google Deep Mind، امروز نامه سرگشاده‌ای درباره خطرات هوش مصنوعی پیشرفته و عدم نظارت فعلی شرکت‌هایی که روی فناوری هوش مصنوعی کار می‌کنند، به اشتراک گذاشتند.
این کارمندان اظهار می‌کنند که توسعه هوش مصنوعی با خطرات متعددی روبرو هست، از جمله تقویت بیشتر نابرابری‌های موجود، دستکاری و اطلاعات نادرست، و از دست دادن کنترل سیستم‌های هوش مصنوعی مستقل، که در نامه می‌گوید می‌تواند منجر به انقراض نسل انسان شود.
شرکت‌های هوش مصنوعی برای پیشبرد توسعه و اجتناب از به اشتراک گذاشتن اطلاعات در مورد اقدامات حفاظتی و سطوح خطر، محرک‌های مالی قوی دارند. در این نامه آمده است: «ما فکر نمی‌کنیم که بتوان به همه آنها اعتماد کرد تا داوطلبانه آن را به اشتراک بگذارند».
تا زمانی که نظارت موثر دولت بر این شرکت‌ها وجود نداشته باشد، کارمندان فعلی و سابق از معدود افرادی هستند که می‌توانند آنها را در برابر مردم پاسخگو کنند. با این حال توافقنامههای محرمانه گسترده، ما را از ابراز نگرانی‌هایمان باز می‌دارند، به جز برای شرکت‌هایی که ممکن است در رسیدگی به این مسایل شکست بخورند. حمایت‌های معمولی از افشاگران ناکافی است، زیرا آنها بر فعالیت‌های غیرقانونی تمرکز می‌کنند، در حالی که بسیاری از خطرات مورد نگرانی ما هنوز تنظیم نشده‌اند.
کارمندان در نهایت از شرکت‌های هوش مصنوعی می‌خواهند تا برای صحبت در مورد خطرات هوش مصنوعی، از افشاگرهای قوی محافظت کنند.
- از ایجاد یا اجرای توافقاتی که از انتقاد برای نگرانی‌های مرتبط با ریسک جلوگیری می‌کند، خودداری کنید.
- یک فرآیند ناشناس قابل تایید برای کارمندان ارایه دهید تا نگرانی‌های مرتبط با ریسک را به هیئت مدیره، تنظیم کننده‌ها و سازمان‌های مستقل با تخصص مرتبط مطرح کنند.
- از فرهنگ انتقاد آشکار حمایت کنید تا به کارمندان اجازه دهید تا نگرانی‌های مرتبط با ریسک را در مورد فناوری‌ها به مردم، هیئت مدیره، قانون‌گذاران و موارد دیگر مطرح کنند تا زمانی که اسرار تجاری محافظت می‌شوند.
- از انتقام گرفتن از کارمندانی که پس از شکست سایر فرآیندها به طور عمومی اطلاعات محرمانه مرتبط با ریسک را به اشتراک می‌گذارند، خودداری کنید.
در مجموع ۱۳ کارمند، از جمله ۷ کارمند سابق اوپن‌اِی‌آی، ۴ کارمند فعلی اوپن‌اِی‌آی، یک کارمند سابق گوگل دیپ مایند و یک کارمند فعلی گوگل دیپ مایند، نامه را امضا کرده‌اند. اوپن‌اِی‌آی کارکنان را تهدید به از دست دادن حقوق صاحبان سهام برای صحبت کردن کرده است و آنها را مجبور به امضای توافقنامههای سختگیرانه‌ای کرده که انتقادها را در نطفه خفه می‌کند.
این نامه در حالی منتشر می‌شود که اپل آماده می‌شود تا در روز دوشنبه چندین ویژگی مبتنی بر هوش مصنوعی را برای iOS 18 و سایر به‌روزرسانی‌های نرم افزاری اعلام کند. اپل در حال کار بر روی عملکرد هوش مصنوعی خود است که در برنامه‌ها در سراسر سیستم عامل قرار می‌گیرد؛ به علاوه قراردادی را با اوپن‌اِی‌آی امضا کرده است تا ویژگی‌های چت جی‌پی‌تی را در iOS 18 ادغام کند.
