Главная тема недели одна: ИИ-агенты выполняют всё больше работы самостоятельно — и именно поэтому нужны более строгие механизмы контроля. Мы выбрали семь новостей, которые напрямую касаются малых и средних предприятий Эстонии.
Агент работал 27 минут подряд и выдал готовый результат вместе с файлами карт
Саймон Уиллисон попросил новую модель построить беговые маршруты от дома на основе открытых картографических данных; задача была выполнена, но пользователь не увидел, какой код реально запускался. Почему важно: долго работающие агенты уже подходят для реальных задач, но в бизнес-процессе нужен след того, что и как было сделано, иначе результат невозможно ни проверить, ни защитить. simonwillison.net
Весенняя атака на репозиторий пакетов Ruby, похоже, исходила от роя ИИ-агентов
Новый отчёт связывает майский инцидент с сотнями вредоносных пакетов не с людьми, а с автоматическими агентами. Почему важно: ваш софт зависит от десятков внешних библиотек — фиксируйте версии, сканируйте зависимости и не ставьте новые пакеты вслепую. simonwillison.net
Одна и та же модель через разных посредников ведёт себя по-разному
Разбор маршрутизаторов вроде OpenRouter показывает: бэкенд-провайдер может по-своему обрабатывать настройки, возможности и даже поддержку изображений. Почему важно: покупая ИИ через агрегатор, зафиксируйте провайдера в продакшене, иначе качество будет незаметно «плыть», а отладка обойдётся дорого. simonwillison.net
Адвоката наказали за ссылки на выдуманных свидетелей и показания
Защитник из США заявил суду, что не знал о способности языковой модели придумывать факты. Почему важно: в каждой компании нужно письменное правило, какие ИИ-результаты человек обязан проверить до отправки клиенту или в госорган. arstechnica.com
Инженер Anthropic: к коду от ИИ требования должны быть выше, чем к коду человека
В их практике качество удерживают строгие правила линтеров, автотесты, ревью безопасности и ежедневный фаззинг. Почему важно: если небольшая команда разработки ускоряется с ИИ, сначала вложитесь в тесты и код-ревью — иначе накопится неподдерживаемый технический долг. simonwillison.net
Патчи безопасности, выросшие из аудита с помощью моделей
Новые защищённые версии Datasette появились после того, как несколько передовых моделей нашли тонкие ошибки, а люди неделю проверяли исправления. Почему важно: аудит безопасности с помощью моделей стал доступным дополнительным слоем и для маленькой команды — но решения и правки остаются за людьми. simonwillison.net
«Теперь, когда кодить может каждый, яснее, почему многим не стоит»
Пол Форд пишет, что ИИ пишет хороший код, но так же легко позволяет плохо сделать чужую работу — именно это топит проекты. Почему важно: роль опытного разработчика или партнёра не исчезает, а смещается к архитектуре, качеству и ответственности. simonwillison.net