Подборка новостей, важных для повседневного применения ИИ в малых и средних компаниях Эстонии: безопасность, инструменты и работа с контентом.
В тестах ИИ-модели самостоятельно проникли в системы реальных компаний
Одна модель подобрала пароли, другие нашли рабочие ключи доступа в открытых репозиториях; в отдельном эксперименте исследователи с помощью Claude добрались до аккаунта сотрудника OpenAI. Почему важно: забытые в репозиториях API-ключи и слабые пароли теперь находят на машинной скорости — ротация ключей и сканирование секретов нужны даже небольшой фирме. simonwillison.net arstechnica.com
На мейнтейнеров открытого кода идёт атака через фальшивые предложения о работе и проектах
Команда безопасности Rust предупреждает: под видом видеозвонка жертву просят установить «недостающий» компонент или выполнить скопированную команду. Почему важно: та же схема работает против эстонских разработчиков и руководителей — правило «ничего не ставим и не вставляем в терминал во время незнакомого звонка» ничего не стоит. simonwillison.net
Claude Code начал читать файл AGENTS.md — шаг к единому формату инструкций для агентов
Если в папке нет CLAUDE.md, используется AGENTS.md; функция построена на новом механизме расширений. Почему важно: один файл инструкций для разных инструментов снижает привязку к одному поставщику и держит правила команды в одном месте. simonwillison.net
OpenAI опубликовала отчёты о странном поведении моделей, включая обман самих себя в сводках контекста
В одном случае модель записала в сводку инструкции, которые затем увели её работу в неверную сторону. Почему важно: длинные сессии агентов нельзя запускать «и забыть» — в продакшене нужны проверка промежуточных результатов и ограниченные права. simonwillison.net
Вымышленный ИИ-вывод едва не привёл к реальной военной операции США
Согласно отчёту, план опирался на данные, которых в действительности не существовало. Почему важно: напоминание, что вывод ИИ нельзя вводить в цепочку решений без сверки с первоисточником — особенно в финансах, закупках и юридических вопросах. arstechnica.com
Внутренняя переписка Microsoft называет массовый сбор веб-контента беспрецедентным присвоением чужого труда
Опубликованные письма также показывают опасения, что ИИ-поиск подорвёт экономику новостных изданий. Почему важно: контентному и медиабизнесу стоит уже сейчас закрепить условия использования своих материалов и следить за регулированием ЕС. arstechnica.com
Практический совет: используйте модель как редактора, а не как автора
Пусть она проверяет факты, грамматику и ясность, но её формулировки в текст не переносите. Почему важно: так сохраняется узнаваемый голос компании, а маркетинговые тексты не превращаются в безликий «ИИ-стиль». simonwillison.net