API, вебхуки, пайплайны и рутина, которую имеет смысл отдать машине.
Где генерация видео нейросетью экономит деньги — заставки, перебивки, обучающие ролики с аватаром, — где она ломается, сколько занимает доводка и что с пометкой и чужим лицом в кадре.
Три места, где нейросеть в продажах окупается: справка к звонку, разбор записей разговоров, черновики писем. И три, где вредит: обещания условий, вероятность сделки, массовая рассылка.
Большие модели дали роботу свободную речь, но не убрали паузу, перебивание и отказ понимать редкое. Где проходит граница применимости и что закон требует от обзвона.
Три разные задачи внутри одной презентации: структуру модель помогает собрать, тексты сжимает, оформление делает хуже ожиданий. И почему числа попадают на слайд мимо модели.
Генерация курсов и тестов даёт много материала, который никто не проходит. Работают два других применения: модель в роли клиента как тренажёр и справочник по внутренним документам вместо вводного курса.
Генерация картинок нейросетью хороша на черновиках, вариантах и иллюстрациях настроения. Разбираю, где она подводит — текст в кадре, точные схемы, серия в одном стиле, узнаваемые люди — и чем её там заменить.
Первичка, сверка с контрагентом, разнесение выписки — что можно отдать модели, почему суммы через неё не проходят и кто отвечает за отчётность.
Где нейросети дают маркетологу выигрыш — варианты, разметка, разбор отзывов — и почему главный риск не ошибка модели, а сообщения, неотличимые от конкурентов.
Модель — самая дешёвая статья расходов. Разбираю пять настоящих статей бюджета, почему оценки занижены в разы и как посчитать свой случай до начала работ.
Разбор резюме автоматизируется, оценка кандидата — нет. Разбираю границу, смещение в данных обучения и требования к обработке персональных данных соискателей.
Извлечение условий работает, оценка рисков — нет. Разбираю, чем эти задачи отличаются, какие поля извлекаются надёжно и почему пустое значение важнее точности.
Расшифровка встреч, голосовые роботы, озвучка. Разбираю, где точность достаточна, где ломается, и почему ошибка в одном слове стоит дороже, чем кажется.
Различие не в качестве, а в том, где выполняется вычисление и кто контролирует изменения. Разбираю четыре признака выбора и почему цена в этом списке не первая.
Модель плохо считает и хорошо формулирует. Разбираю рабочее разделение — модель пишет запрос, арифметику делает код — и почему обратный порядок даёт красивые неверные отчёты.
Разбор трёх режимов — подсказка оператору, черновик ответа, автоответ. Почему начинать надо с первого и по какому признаку виден момент для третьего.
Сэкономленные часы — не эффект, а оценка. Разбираю, что мерить до запуска, какие три числа снимать в работе и почему экономия времени редко превращается в деньги.
Картинка превращается в те же токены, что и текст, — отсюда и возможности, и ограничения. Разбираю, что модель со зрением делает хорошо, что плохо и во что это обходится.
Не «автоматизируем всё», а три конкретные формы задач, где агент окупается. И признак, по которому видно, что задача четвёртая — то есть не для агента.
За одной фразой стоят три разные работы разной стоимости. Разбираю, какая из них вам нужна, сколько примеров требуется и почему «загрузить документы» — не обучение.
Сначала вопрос, нужна ли отдельная база: до сотни тысяч фрагментов хватает расширения к обычной. Разбираю, по каким признакам выбирать и что решает не база.
Разбор с обратной стороны: почему пилоты не доживают до продакшена, какой процесс брать первым и по какому признаку понять, что внедрять пока нечего.
Процедура выбора из четырёх шагов вместо сравнения бенчмарков: что должно быть решено до модели, по какому признаку сравнивать и когда переходить на другую.
Посчитал стоимость миллиона токенов на арендованной видеокарте и сравнил с ценами API. Результат неожиданный: по деньгам локальная модель почти никогда не выигрывает.
Три способа получить от модели нужное поведение решают разные задачи и путать их дорого. Разбираю, что меняет каждый, и почему дообучение почти никогда не про факты.
RAG — это поиск плюс подстановка найденного в запрос. Разбираю, из чего он состоит, где ломается каждое звено и почему на небольшой базе он только вредит.
Разбор travel-каталога, где нейросеть подбирает места и порядок обхода, но ни одного числа не считает: почему роли разделены именно так, чем доказывается фотография места, как проверяется вид транспорта на отрезке и что из этого ломалось на проде.
Цена за миллион токенов — наименее информативное число в счёте. Разбираю, из чего складывается стоимость задачи: многословность, разреженная активация, кеш, кадры и язык. С измерениями.
Признаки, по которым процесс лучше оставить человеку, почему упрощение обычно выигрывает у интеграции и как считать стоимость владения до начала работ.
Языковая модель переводит документ связнее обычного переводчика: видит текст целиком и слушается глоссария. Но она же молча теряет и дописывает фразы, а гладкость перевода это прячет.
При сжатии модель первыми выбрасывает оговорки, исключения и числа — то, ради чего документ читают внимательно. Поэтому вместо пересказа я прошу ответы на свои вопросы с цитатой.
Оба способа ошибаются, но по-разному: OCR чаще выдаёт заметный мусор, нейросеть — гладкий текст с подменённой цифрой. Для реквизитов нужна сверка, для рукописи и сложной вёрстки лучше модель.
ChatGPT и другие модели хорошо пишут и объясняют формулы и макросы — их проверяет запуск. Считать числа из вставленной в чат таблицы им поручать нельзя: ошибка выглядит как верный ответ.
Посетитель читает ответ бота как слово компании. Поэтому до выбора сервиса решают, откуда бот берёт ответы, что делает, когда ответа нет, и чего не вправе обещать.
Расшифровка ошибается в том, кто говорил, протокол — в том, что решили. Решения и ответственных сверяет участник встречи, прежде чем текст уйдёт остальным.
Отправка персональных данных в зарубежный сервис — это трансграничная передача со своими требованиями. Разбираю практическую границу и что делать, если данные всё-таки нужны.
Токен — не слово и не символ. Считать надо токенизатором конкретной модели, и на русском результат отличается от английского примерно в 1.29 раза.
Инструкция на английском занимает вдвое меньше токенов, чем на русском. На системной части это заметные деньги — и заметный риск для регистра ответа.
Он растёт незаметно: правило за правилом, случай за случаем. Через полгода половина его содержимого относится к ситуациям, которых больше не бывает.
Нестандартный вход приходит не равномерно, а пачками после пауз. Отсюда следует, что тестировать контур на среднем дне бессмысленно.
