OpenAI қауіпсіздік бөлімінің басшысы алаңдатарлық мәлімдеме жасап, өз еркімен жұмыстан кетті

Робинсон OpenAI өнімдерін шығару барысында қауіпсіздік есептерін дайындауға жауапты болған. Ол өз қызметінен кетуін The Atlantic басылымында жарияланған мақаласында түсіндіріп, озық жасанды интеллект жүйелерімен жұмыс істейтін компаниялардың бірінен екінші жаңашылдыққа тым жылдам көшетінін және қатерлерге тиісті деңгейде көңіл бөлмейтінін айтады.

Оның айтуынша, бұл мәселе жекелеген ережелер немесе реттеу шеңберінен шығып кеткен әрі ол тұтас индустрияның мәдениетімен байланысты. Мысал ретінде ол OpenAI мен Hugging Face компанияларының автономды ЖИ-агенттеріне қатысты жақында болған оқиғаны назарға ұсынады. Робинсон мұндай жүйелердің мүмкіндіктері артқан сайын қателіктердің салдары да ауырлай түседі деп есептейді.

Ол ЖИ компанияларын атом энергетикасы мен авиация салаларындағы қауіпсіздік тәсілдерін үйренуге шақырды, өйткені бұл салаларда көп деңгейлі қорғаныс және резервтеу жүйелері қолданылады. Сонымен қатар, оның пікірінше, қуатты автономды ЖИ жүйелерінің әрекеттерін шектеуге мүмкіндік беретін әдістерді әзірлеу қажет.

Робинсонның отставкасы сала өкілдерінің ЖИ-дің ықтимал қатерлері туралы басқа да даулы мәлімдемелер аясында орын алды. Мысалы, OpenAI мен DeepMind-тің бұрынғы қызметкері Джеффри Ирвинг адам интеллектісінен асып түсетін жүйелердің жасалуы салдарынан адамзаттың жойылып кету ықтималдығын шамамен 50% деп бағалайтынын мәлімдеді. Мұндай бағалаулар әлі де пікірталас тудырып келеді: сыни көзқарастағылар мұндай болжамдарды ғылыми тұрғыдан тексеру немесе жоққа шығару мүмкін еместігін айтады.

OpenAI өкілдері қолданыстағы және ықтимал болашақ қатерлерге қарсы қауіпсіздік шараларын жетілдіруді жалғастырып жатқанын мәлімдеді. Компания өкілі модельдерді оқыту немесе шығару жұмыстары оларды қауіпсіз басқару жағы қиынға соққан жағдайда тоқтатылуы мүмкін екенін атап өтті.