Архитектура искусственного интеллекта: как Сайдолимхон Агзамходжаев повышает надежность технологий на глобальном уровне

Дата: 26.11.2025 г.

В разговоре об искусственном интеллекте всё чаще поднимают тему не прогресса, а сокращения рисков. ИИ-системы до сих пор способны искажать данные и выдумывать факты, и как отмечают Forbes и The New York Times в своих материалах, число подобных «галлюцинаций» выросло — в отдельных случаях до 50%. Между тем подобные сбои в работе ИИ приводить к реальным финансовым потерям бизнеса и даже несут угрозу здоровью человека. От ИИ теперь ждут не новые функции, а стабильную, проверяемую и управляемую работу моделей. Обеспечить ее — одна из главных задач индустрии.

Изыскания в этой области ведут лучшие инженеры, и среди них — Сайдолимхон Агзамходжаев, разработки которого применяют в компаниях уровня Meta и в венчурных фондах с миллиардными активами. Сейчас он в собственном американском стартапе Treater отвечает за архитектуру и надежность ИИ-систем, создавая «проверяющие механизмы» для больших языковых моделей, разрабатывает умных цифровых помощников и благодаря своим решения смог привлечь в компанию новые инвестиции. Что помогает повысить надежность ИИ и почему у таких решений глобальное значение – разбирались с экспертом.

Почему в ИИ важнее архитектура, а не уровень интеллекта модели

Большинство людей воспринимают ИИ как единый механизм, где пользователь вводит запрос и сразу получил ответ. Но в реальности диалог — лишь часть системы. Настоящая работа — за его пределами: ИИ получает данные, проверяет свои шаги, исправляет неточности, иногда меняет стратегию. Как именно он это делает, определяют инженеры, выстраивая архитектуру, без которой даже самая продвинутая модель ошибается, повторяется и выдает неверные и даже опасные ответы.
«Проблема возникает, когда нет системы, которая проверяет его шаги. Если не выстроить эти рамки, система продолжит выдавать неправильные ответы», — говорит эксперт по ИИ Саид Агзамходжаев.

Его работа — выстраивать эти рамки: он создает сложные механизмы, которые заставляют ИИ проверять собственные ответы и исправлять их до того, как ошибку увидит пользователь. Эта система «самоконтроля» искусственного интеллекта, помогающая существенно сокращать число ошибок, легла в основу разработанного им ИИ-агента для проведения бизнес-аналитики. Значимость подобных решений, когда машинный интеллект используется даже в сферах, связанных с финансами и здоровьем, невозможно недооценить. Именно поэтому стартап разработчика сумел заинтересовать крупного инвестора.

Почему голос требует особого подхода

От точности логики ИТ-решения, в которую встроена модель, сильнее других технологий зависит искусственный голос (Voice AI). Если в текстовых сервисах ошибку ИИ можно «перечитать», то в голосовых — нет. Стоит боту неправильно понять слово или потерять паузу — рушится весь диалог. Для бизнеса, который все чаще прибегает к автоматизации диалогов с клиентами, такие ошибки измеряются деньгами.

Для инженера-бизнесмена это послужило поводом обратить внимание на проблему, и начать проектировать голосовые ИИ так, чтобы они ориентировались в живом разговоре: понимали, когда нужно уточнить вопрос, когда — переспросить иначе, а когда — изменить стратегию ответа. У этих «операторов» тоже есть встроенные механизмы самопроверки, чего не хватает большинству голосовых ботов.

Сейчас их используют в своих колл-центрах десятки компаний, и пилотные проекты показывают, что ИИ-системы способны стабильно выдерживать сложные диалоги практически без сбоев. А значит, у бизнеса есть возможность снизить нагрузку на операторов и получить стабильную работу службы поддержки даже в пиковые периоды, не опасаясь потери клиентов из-за «галлюцинаций» ИИ.

Как инженерные решения влияют на индустрию

Такие технологии дают ощутимый эффект не только внутри отдельных продуктов. Подход инженера к построению ИИ-систем стал востребованным среди компаний, которые работают с большими объемами данных и интегрируют ИИ в критически важные процессы.

«Когда ИИ становится частью сервиса для миллионов людей, четкие правила, стандарты и проверяемые механизмы просто необходимы. Иначе компания не выдержит нагрузки», — поясняет эксперт.

Его опыт востребован у компаний-разработчиков, которые он консультирует, а в этом году инженера пригласили в качестве независимого эксперта оценивать эффективность архитектуры ИИ-решений стартапов для венчурных фондов RRE Ventures и GlassWing Ventures, которым он помогает принимать решения о целесообразности инвестиций. Свой опыт инженер распространяет и некоммерческим способом — его инженерная система оценки качества LLM-моделей включена в независимую международную базу ZenML LLMOps Database как пример полноценного рабочего решения, выдерживающего большие нагрузки, и ее могут использовать инженерные команды по всему миру.

Все это подтверждает высокую значимость надежности ИИ-технологий для мировой экономики, а также здоровья и благополучия людей, которые в быту все чаще обращаются к машине с вопросами в том числе о самолечении.

Низомжон Исламов