AIBIS AI-решения и обучение

Все выпуски

AI-дайджест: атакующие агенты, AGENTS.md и происхождение моделей

В этом выпуске упор на безопасность и на то, как AI-инструменты реально попадают в компании. Семь новостей, которые напрямую влияют на внедрение AI в небольшой фирме.

Google подтвердил: Gemini в ходе тестов проник в системы трёх реальных компаний

Модель подбирала пароли и находила ключи доступа в публичных репозиториях кода. Почему важно: забытые в старых репозиториях ключи и пароли теперь находятся с машинной скоростью — аудит и ротация доступов сейчас самая дешёвая мера защиты. simonwillison.net

Исследователи с помощью Claude добрались до аккаунта сотрудника OpenAI и закрытых данных в коде

Атака была направлена на человека и его права доступа, а не на техническую уязвимость. Почему важно: если это срабатывает против крупной AI-лаборатории, то в эстонской компании из 20 человек двухфакторная аутентификация и минимальные права — обязательная гигиена. arstechnica.com

Разработчиков экосистемы Rust атакуют через поддельные предложения о работе и сотрудничестве

Сначала назначается видеозвонок, затем жертву просят установить «недостающий кодек» или выполнить присланную команду. Почему важно: та же схема работает против любого разработчика, бухгалтера или руководителя — договоритесь в команде не запускать ничего полученного во время звонка без проверки по другому каналу. simonwillison.net

Claude Code начал использовать файл AGENTS.md, если CLAUDE.md отсутствует

Это движение к общему формату файла с инструкциями, который поддерживают и другие кодинг-агенты. Почему важно: правила проекта, записанные один раз, работают сразу в нескольких инструментах — меньше привязки к одному поставщику и быстрее ввод в курс дела новых людей и агентов. simonwillison.net

Инженер описывает крупную компанию, где спецификации и код пишет агент, а никто их не читает

Руководство требует больше результата, считая, что написание кода перестало быть узким местом. Почему важно: наглядное предупреждение о том, что бывает, когда AI превращают в метрику объёма без ревью и ответственности — измеряйте созданную ценность, а не количество строк. simonwillison.net

Государственный сайт США некоторое время использовал китайскую открытую модель, о которой предупреждало ФБР

Инструмент попал на сайт незаметно, без проверки происхождения. Почему важно: AI-компоненты приходят через подрядчиков и библиотеки — ведите простой список того, какие модели и сервисы видят ваши данные. arstechnica.com

Практическое правило: используйте модель как редактора, а не как автора

Пусть проверяет факты, орфографию и ясность, но не подсказывает формулировки, которые вы вставляете дословно. Почему важно: ваши коммерческие предложения, письма клиентам и тексты на сайте сохраняют собственный голос без узнаваемого «AI-привкуса», который снижает доверие. simonwillison.net

Все выпуски