Anthropic выбрала Accenture первым партнером для встроенной оценки AI-моделей

Что произошло

Anthropic выбрала Accenture своим первым оценщиком в рамках предложения CEO компании Dario Amodei замедлить развитие AI и обеспечить внедрение защитных мер.

В проекте также участвует AI-подразделение Accenture Faculty. Компании будут оценивать модели, проводить стресс-тестирование, проверять их соответствие заявленным целям и тестировать защитные механизмы.

Детали партнерства

Anthropic и Accenture ожидают, что каждая сторона вложит в проект как минимум $1 млрд в течение следующих пяти лет.

Anthropic заявила, что детали практической реализации встроенной оценки пока разрабатываются. Компания также отметила отсутствие действующей системы финансирования таких проверок и сообщила, что с учетом срочности работы будет напрямую финансировать работу Accenture.

Контекст

12 сентября Dario Amodei представил трехэтапное предложение по замедлению разработки AI на фоне предупреждений о возможном катастрофическом вреде из-за быстрого и неконтролируемого развития технологий.

Первым шагом он назвал создание независимых оценщиков с доступом к системам на уровне сотрудников. Amodei предупредил, что способность AI создавать следующее поколение AI может опередить возможности людей по пониманию и контролю таких систем.

Sam Altman и Elon Musk положительно отреагировали на предложение. Jensen Huang не поддержал его и заявил, что подобное регулирование не требуется.