5 мин
Промпт-инъекции: почему от них нельзя защититься промптом
Инструкции и данные едут в модель одной строкой, и различить их она не умеет. Разбираю, почему фильтры дают ложное спокойствие и что реально ограничивает ущерб.
14 материалов
ИИ-агенты и рабочие контуры
Агентные системы, оркестрация, границы ответственности и связка человека с агентом.
-
- 14 мин
Модель выбирает, арифметика считает: как устроен geopilot
Разбор travel-каталога, где нейросеть подбирает места и порядок обхода, но ни одного числа не считает: почему роли разделены именно так, чем доказывается фотография места, как проверяется вид транспорта на отрезке и что из этого ломалось на проде.
- 13 мин
Агент на рабочем столе: где проходят границы доверия
Что меняется, когда агент выходит из терминала на десктоп и получает доступ к файлам, командам и чужим окнам: по какому признаку делить права, чем эти права обеспечены на самом деле, что подтверждать и что журналировать. На примере Faber — программы, которую я строю сам.
- 6 мин
Модель-судья: что она ловит и что пропускает
Судья совпадает с человеком примерно так же часто, как человек совпадает с человеком. Проблема не в проценте совпадений, а в том, что его ошибки систематические.
- 4 мин
Контекстное окно — это не память
Модель не помнит прошлый разговор и не читает контекст равномерно. Разбираю, что она видит на самом деле и как из этого следуют вполне практические правила.
- 12 мин
Рабочий контур вместо «внедрить ИИ»
Почему просьба «внедрить ИИ» не превращается в задачу, что приходит ей на замену и как выглядит проверка, которую контур может провалить.
- 6 мин
Кто отвечает за результат, если работу сделал агент
Ответственность не делится с инструментом. Разбираю рабочую модель: владелец результата, журнал действий, точка принятия — и что писать в регламенте, чтобы это не осталось словами.
- 6 мин
Кодовые агенты: что меняется в инженерной работе
Где ускорение от кодовых агентов реальное, где мнимое, почему граница проходит по стоимости приёмки и какой навык становится дефицитным.
-
Чем ИИ-агент отличается от чат-бота
Разница не в модели и не в интерфейсе, а в том, кто решает следующий шаг. У бота сценарий задан заранее, у агента — выбирается на ходу.
-
Спросить дешевле, чем откатить
Подтверждение стоит пять секунд ожидания. Разбор последствий необратимой операции стоит вечер. Симметрии между ними нет и не будет.
-
Контекст дороже модели
Почему один хорошо написанный файл с правилами проекта даёт больший прирост качества, чем переход на модель поновее — и когда это перестаёт быть правдой.
-
MCP удобно рассматривать как границу доверия
Не «протокол для подключения инструментов», а место, где вы решаете, что агенту можно, а что нет — и почему такая рамка ускоряет принятие решений.
-
Почему контуры ломаются в понедельник
Нестандартный вход приходит не равномерно, а пачками после пауз. Отсюда следует, что тестировать контур на среднем дне бессмысленно.
-
Интерфейс, который читает не только человек
Семантическая разметка перестала быть вопросом доступности и SEO: теперь по дереву доступности ходят агенты, и цена небрежности выросла.