Новостей

Из ИИ-лабораторий один за другим уходят исследователи с предупреждениями о гибели человечества. Следом замедлить разработку предлагают уже главы Anthropic и OpenAI, их поддерживает Илон Маск. Что произошло и почему люди, создающие самые мощные модели, вдруг заговорили о потере контроля?

13 сентября (256-й день года в невисокосный 2026 год) официально празднуется IT-праздник под названием День программиста.

Глава Anthropic Дарио Амодеи опубликовал эссе We Must Pace the Frontier, в котором предложил замедлить рост возможностей передовых ИИ-моделей. По его мнению, исследования безопасности перестают успевать за прогрессом. Anthropic обязуется начать с постоянного доступа внешних проверяющих к внутренней работе компании.

Амодеи объясняет изменение позиции двумя причинами: ИИ всё активнее участвует в создании следующих поколений моделей, а инцидент с агентами OpenAI и инфраструктурой Hugging Face показал опасность их несогласованного с разработчиками поведения.

Китайская студия использовала Claude для генерации 75% совпадений в 20+ дейтинг-приложениях: за две недели апреля 2026 года создано 4700 фейковых женских профилей, отправлено 2.36 млн сообщений, пострадало 25000 реальных пользователей — систему дополняли платные «верификаторы»-люди для видеозвонков.

Международная группа исследователей из Испании, Италии и США опубликовала работу, в которой сравнила большие языковые модели искусственного интеллекта с когнитивным вирусом. Модели не только могут нанести вред мыслительным способностям человека, но и создают эффект самоподкрепления, если люди вокруг активно их применяют.

Минцифры при содействии участников рынка ведёт доработку документа, в котором конкретизируются механизмы работы помощника с искусственным интеллектом «Алиса AI» от «Яндекса» на смартфонах и других устройствах в качестве предустановленного приложения. Участники рынка предлагают дополнительно обсудить инициативу.

Microsoft опубликовала руководство, в котором рассказывается, как разработчик может за полчаса бесплатно создать и опубликовать приложение для Windows с помощью ИИ-агента, сообщает Neowin.

Calabonga: Количество предварительных условий обескураживает... 😟