Россиянин Илья Суцкевер основал компанию по созданию безопасного искусственного интеллекта

Илья Суцкевер, соучредитель и бывший главный научный сотрудник OpenAI, основал новую компанию в сфере искусственного интеллекта, ориентированную на безопасность. В заявлении выходец из СССР сообщил, что начинает работу над Safe Superintelligence Inc. Этот стартап займется разработкой мощной и безопасной системы ИИ, при этом приоритет будет сделан на безопасность, сообщает издание The Verge.

SSI стремится сочетать безопасность и возможности, обеспечивая быстрое совершенствование своей ИИ-системы при сохранении высокого уровня безопасности, отметил Илья Суцкевер. Он также сообщил, что стартап избежит управленческих накладных расходов и циклов разработки продукта, с которыми сталкиваются команды ИИ в таких компаниях, как OpenAI, Google и Microsoft.

«Как подчеркивает название компании, Суцкевер сделал безопасность ИИ своим главным приоритетом. Хитрость, конечно, заключается в том, чтобы определить, что именно делает одну систему ИИ более безопасной, чем другую, или вообще безопасной. Суцкевер на данный момент ничего не говорит об этом, хотя он предполагает, что новое предприятие попытается достичь безопасности с помощью инженерных прорывов, встроенных в систему искусственного интеллекта, а не полагаться на ограждения, применяемые к технологии на лету», − комментирует новость Bloomberg.

«Под безопасностью мы подразумеваем безопасность, подобную ядерной безопасности, в отличие от безопасности, такой как «доверие и безопасность», — приводит издание слова Ильи Суцкевера.

Соучредителями SSI вместе с Суцкевером стали Дэниел Гросс, бывший руководитель отдела ИИ в Apple, и Дэниел Леви, который ранее работал в OpenAI. В прошлом году Илья Суцкевер возглавил кампанию по смещению генерального директора OpenAI Сэма Альтмана и покинул компанию в мае, намекнув на запуск нового проекта. Илья Суцкевер отметил, что первым продуктом SSI станет безопасный суперинтеллект, и до его завершения компания не будет заниматься другими проектами.

Фото: x.com/lexfridman

Bloomberg дает такую характеристику изобретателю:

«Учитывая почти мифическое место Суцкевера в индустрии искусственного интеллекта, неопределённость вокруг его статуса была навязчивой идеей Кремниевой долины в течение нескольких месяцев. Будучи университетским исследователем, а затем учёным в Google, он сыграл важную роль в разработке ряда ключевых достижений в области искусственного интеллекта. Его участие в зарождении OpenAI помогло компании привлечь лучшие таланты, которые сыграли важную роль в ее успехе. Суцкевер стал известен как главный сторонник создания все более крупных моделей — стратегия, которая помогла стартапу обойти Google и оказалась решающей для развития ChatGPT».

Ранее сообщалось, что уроженец Горького может вернуться в Россию, чтобы начать разработку ИИ для одного из отечественных банков, но пока эти слухи не подтверждаются.