هشدار پژوهشگران اوپن ای آی: هوش مصنوعی می تواند بشریت را تهدید کند - وبلاگ هیچکس

به گزارش وبلاگ هیچکس، رویترز در گزارشی به نقل از دو منبع مطلع خاطرنشان کرد که گروهی از پژوهش گران شرکت اُپن ای آی در نامه ای به هیئت مدیره از کشفی قدرتمند در حیطه هوش مصنوعی خبر داده اند که به گفته آنان می تواند بشریت را تهدید کند.

پس از اخراج سم آلتمن، مدیرعامل شرکت اُپن ای آی، در روز 30 آبان، شرکت مایکروسافت اظهار داشت که او و تیمش را برای ایجاد یک تیم تحقیقاتی نو استخدام خواهد نمود. پیش از این بیش از 700 کارمند این شرکت تهدید نموده بودند که در حمایت از مدیر اخراجی شان استعفا خواهند داد تا به مایکروسافت بپیوندند.

منابع مطلع به رویترز گفتند که این نامه یکی از موارد لیست بلندبالایی از شکایت های هیئت مدیره بود که به اخراج آلتمن منجر شد. از موارد دیگر می توان به نگرانی از تجاری شدن پیشرفت ها پیش از درک پیامدهای آن ها اشاره نمود.

یکی از منابع مطلع می گوید که هفته گذشته اُپن ای آی در نامه ای داخلی به کارمندانش، که به وسیله مدیر اجرایی باسابقه شرکت میرا موراتی نوشته شده، آنان را از وجود پروژه ای به نام کیو استار و نامه ای به هیئت مدیره مطلع نموده است.

به گفته این مقام مطلع کسانی در شرکت معتقدند که کیو استار می تواند نقطه عطفی در زمینه شناخت چیزهایی که هوش مصنوعی عمومی (ای جی آی) شناخته می شوند، محسوب گردد. این شرکت هوش مصنوعی عمومی را سیستم های مستقلی تعریف می نماید که می توانند در بسیاری از فعالیت های با ارزش مالی از انسان ها پیشی بگیرند.

این مقام مطلع، که نخواست نامش فاش گردد، گفت که کیو استار قادر به حل مسائل ریاضی خاصی است و گرچه آزمایش آن در سطح ریاضیات دبستان صورت گرفته، ولی محققان را به موفقیت های آینده بسیار خوشبین نموده است.

پژوهشگران ریاضیات را مرز توسعه هوش مصنوعی مولد می دانند. هوش مصنوعی مولد در حال حاضر در نوشتن و ترجمه و پیش بینی آماری کلمه بعدی - که می تواند شکل های گوناگون داشته باشد - خوب عمل می نماید. ولی فتح قله انجام عملیات ریاضی - که در آن ها تنها یک پاسخ درست وجود دارد - مستلزم آن است که توانایی استدلالی هوش مصنوعی مشابه هوش انسانی گردد و چنین قابلیتی می تواند در پژوهش های علمی نو اعمال گردد.

بر خلاف یک ماشین حساب که توانایی عملیات محدودی را دارد، هوش مصنوعی می تواند درک کند، یاد بگیرد و کلی سازی کند.

مقامات مطلع بدون ذکر جزئیات گفتند که پژوهشگران در نامه شان به هیئت مدیره درباره قدرت و خطر احتمالی هوش مصنوعی هشدار داده اند. دانشمندان علوم رایانه پیش از این هم درباره خطر احتمالی ماشین هایی با توان هوشی بالا - از جمله این خطر که ماشین ها تصمیم بگیرند که علاقمندند بشریت را نابود نمایند - هشدار داده بودند.

در این نامه بعلاوه درباره فعالیت های تیمی از دانشمندان هوش مصنوعی هشدار داده شده، که از ترکیب دو تیم قبلی کُد جن و مت جن تشکیل شده و روی مسئله بهبود استدلال و انجام کارهای علمی به وسیله هوش مصنوعی کار می نماید و منابع متعددی وجود آن را تایید نموده اند.

آلتمن رهبری کوشش ها برای تبدیل چت جی پی تی به سریع الرشدترین نرم افزار تاریخ را بر عهده داشت و توانست برای نزدیک تر شدن به هوش مصنوعی عمومی، سرمایه و منابع کامپیوتری را از سوی شرکت مایکروسافت به اُپن ای آی جلب کند.

او که هفته گذشته به وسیله هیئت مدیره شرکت از کار برکنار شده بود، یک روز پیش از اخراجش در نشست همکاری های اقتتصادی آسیا-پاسیفیک گفته بود که به نظر او پیشرفت های عمده ای در پیش است. آلتمن گفت: در دو هفته گذشته، من در اتاقی بودم که ما در آن به نوعی پرده جهالت را کنار زدیم و مرز اکتشاف را جلو بردیم، و انجام چنین کاری افتخاری حرفه ای برای تمام عمر است.