استعفای اعتراضی پژوهشگر آنتروپیک: شرکتهای هوش مصنوعی با جان ما قمار میکنند
پژوهشگر سابق OpenAI و آنتروپیک پس از استعفا هشدار داد این دو شرکت در رقابت برای توسعه ابرهوش، خطرات ایمنی هوش مصنوعی را نادیده میگیرند.
به گزارش خبرآنلاین، به نقل از دیجیاتو، «جیکوب کاکسون»، پژوهشگر سابق OpenAI و آنتروپیک، روز سهشنبه از شرکت سازنده Claude استعفا داد و مدعی شد هر دو شرکت در رقابت برای توسعه هوش مصنوعی خطرناکی هستند که خودش را بهبود میدهد.
کاکسون در پستی در شبکه اجتماعی ایکس اعلام کرد که در سه سال گذشته در هر دو شرکت روی پژوهشهای پیشآموزش (Pre-training) مدلهای هوش مصنوعی کار کرده است. او نوشت: «هیچکدام از این دو شرکت مسئولانه عمل نمیکنند. آنها مستقیم به سمت ابرهوش خودبهبوددهنده پیش میروند و با جان ما قمار میکنند.»
کاکسون از سال ۲۰۲۳ تا ژوئیه ۲۰۲۶ عضو تیم فنی OpenAI بود و در این مدت از جمله روی GPT-4o کار کرد. او سپس بهعنوان پژوهشگر به آنتروپیک پیوست.
جیکوب کاکسون معتقد است این دو شرکت درباره نگرانیهای خود پیرامون هوش مصنوعی شفافیت کافی ندارند. او در پست خود نوشت: «افرادی که هوش مصنوعی را میسازند، صادقانه باور دارند که این فناوری میتواند تا پایان دهه همه ما را بکشد. این یک نمایش تبلیغاتی نیست.»
او همچنین میان رویکرد OpenAI و آنتروپیک تفاوت قائل شد. به گفته کاکسون، بسیاری از افراد در OpenAI به پیامدهای توسعه هوش مصنوعی عمیق توجه نکردهاند، درحالیکه در آنتروپیک این خطرات بهتر درک میشوند، اما این شرکت نیز برای رسیدن به هدف پیش از رقبا وارد رقابت شده است.
کاکسون نوشت: «در آنتروپیک، اهمیت موضوع بهخوبی درک شده است، اما آنها در رقابتی برای رسیدن به جایگاه اول گرفتار شدهاند.» «ایوان هوبینگر»، پژوهشگر فعلی آنتروپیک که سرپرستی تیم آزمایش همترازی این شرکت را برعهده دارد، نیز در پاسخ به کاکسون با او موافقت کرد. هوبینگر نوشت: «جیکوب در این مورد درست میگوید، ما واقعاً و صادقانه باور داریم که هوش مصنوعی میتواند همه انسانها را بکشد.»
او احتمال وقوع چنین اتفاقی در دهه آینده را بیش از ۱۰ درصد ارزیابی کرد و افزود که آنتروپیک در تلاش است بهترین عملکرد خود را داشته باشد، اما هنوز برنامهای برای حل مسئله همترازی ابرهوش ندارد و مشخص نیست که در مسیر دستیابی به چنین راهحلی قرار گرفته باشد.
۵۸۵۸
