Новые члены совета директоров OpenAI теперь могут управлять Сэмом Альтманом

Совет директоров OpenAI имеет последнее слово в вопросе запуска сверхчеловеческого ИИ, но этот совет более благосклонен к Альтману. OpenAI обновила состав своего совета директоров после ноябрьского конфликта, но они все еще могут переопределять любые решения генерального директора Сэма Альтмана, согласно руководящим принципам, опубликованным компанией в понедельник. Это означает, что если OpenAI создаст искусственный общий интеллект (ИОИ), систему ИИ, умнее человека, совет директоров будет иметь последнее слово в его запуске.

«Совет директоров OpenAI (BoD), как высшее управляющее тело OpenAI, будет наблюдать за реализацией и принятием решений руководством OpenAI», - сказали в OpenAI в руководящих принципах. «Хотя руководство является принимающей решения стороной, совет директоров имеет право отменять решения», - сказали в OpenAI. OpenAI заявляет, что совет директоров по-прежнему властвует над всеми решениями, несмотря на то, что почти обанкротил компанию в прошлом месяце, уволив своего генерального директора. Сэм Альтман и президент OpenAI Грег Брокман лишились своих мест в совете в результате, что означает, что руководство компании больше не имеет последнего слова. Необычная структура компании была основной причиной ноябрьского хаоса, поскольку интересы компании стоимостью 90 миллиардов долларов столкнулись с ее некоммерческим советом.

Руководящие принципы под названием «Рамка подготовленности» описывают процессы OpenAI по оценке, прогнозированию и защите от катастрофических рисков, связанных с искусственным интеллектом. Это дополнительное свидетельство того, что OpenAI активно работает над ИОИ, опираясь на прошлонедельную статью своей команды по суперсогласованию, которая предложила процесс обучения сверхчеловеческих систем ИИ.

В настоящее время совет директоров состоит из бывшего генерального директора Salesforce Брета Тейлора, бывшего министра финансов США Ларри Саммерса и действующего генерального директора Quora Адама Д’Анджело. Microsoft гарантировано место в совете директоров без права голоса, и председатель Тейлор скоро назначит других членов совета. Эти люди, вероятно, будут ответственны за решение о том, когда OpenAI может запустить сверхчеловеческие компьютеры. Тем не менее, старые члены совета OpenAI в основном были исследователями и громкими сторонниками безопасности ИИ, такими как Илья Суцкевер, Хелен Тонер и Таша МакКоли. Новые члены совета - большие поклонники Альтмана с опытом в политике и традиционных прибыльных предприятиях.

OpenAI говорит, что ее совет директоров - «высшее управляющее тело OpenAI». Теперь совету предполагается ежемесячно получать документацию от команды OpenAI по подготовленности о прогрессе в направлении ИОИ, чтобы убедиться, что совет полностью осведомлен. В прошлом месяце совет обвинил Сэма Альтмана в том, что он не держал их в курсе и назвал это основной причиной его увольнения. Миссия совета директоров - обеспечить, чтобы искусственный общий интеллект приносил пользу всему человечеству. Надеемся, что совет останется верен своей миссии, а не коммерческим интересам, возглавляемым Сэмом Альтманом. Учитывая, что почти все 700 сотрудников и Microsoft были рады уйти без Сэма Альтмана, на данный момент эта миссия выглядит необещающе.