OpenAI خالق ChatGPT در حال راه اندازی تیمی برای کنترل “خطرات” هوش مصنوعی فوق هوشمند

اکنون بیش از شش ماه از ورود ChatGPT به صحنه می گذرد. از آن زمان، باران هوش مصنوعی به هر شکلی بوده است. ChatGPT خالق OpenAI اکنون به دنبال نسل بعدی هوش مصنوعی و کنترل خطرات ناشی از آن است. در یک پست وبلاگی، این شرکت ایده های خود را برای هوش مصنوعی Superintelligent تشریح کرد. «فوق هوش تأثیرگذارترین فناوری خواهد بود که بشر تا کنون اختراع کرده است و می تواند به ما در حل بسیاری از مهم ترین مشکلات جهان کمک کند. اما قدرت عظیم ابر هوش نیز می تواند بسیار خطرناک باشد و می تواند منجر به ناتوانی بشریت یا حتی انقراض انسان شود.

OpenAI معتقد است که در حال حاضر هیچ راه حلی برای هدایت یا کنترل یک هوش مصنوعی بالقوه فوق هوشمند و جلوگیری از سرکشی آن وجود ندارد. این یکی از دلایلی است که یک تیم کاملاً جدید راه اندازی می کند.

تیم جدید روی چه چیزی کار خواهد کرد؟
به گفته این شرکت، این تیم متشکل از محققان و مهندسان برتر یادگیری ماشین خواهد بود تا روی این مشکل کار کنند. OpenAI گفت: “ما 20 درصد از محاسباتی را که تا به امروز در چهار سال آینده ایمن کرده ایم به حل مشکل همسویی ابراطلاعات اختصاص می دهیم.” همچنین افزود: “شرط اصلی تحقیقات پایه ما تیم جدید Superalignment ما است، اما دریافت این حق برای دستیابی به ماموریت ما بسیار مهم است و ما انتظار داریم که تیم های زیادی از توسعه روش های جدید تا گسترش آنها تا استقرار کمک کنند.”

OpenAI معتقد است که این یک مشکل یادگیری ماشینی خواهد بود. و به همین دلیل است که OpenAI همچنین به دنبال محققان و مهندسان برجسته جدید است تا به این تلاش بپیوندند. این شرکت خاطرنشان کرد: «همسویی ابرهوشی اساساً یک مشکل یادگیری ماشینی است، و ما فکر می‌کنیم که کارشناسان بزرگ یادگیری ماشین – حتی اگر در حال حاضر روی هم‌ترازی کار نمی‌کنند – برای حل آن بسیار مهم هستند.»

فیس بوکتوییترلینکدین

پایان مقاله