ИИ-агенты расширяют доступностьОт описания фото незрячим до споров о контроле над интерфейсом

Сервисы вроде Be My AI описывают окружение по фото для незрячих людей, а новые ИИ-агенты берутся за более сложные задачи - но вместе с этим поднимают вопросы контроля пользователя над собственным интерфейсом.

ИИ-агентыОбновлено 12.11.20267 мин чтения
ИИ-агенты расширяют доступность
▲ коротко: ИИ-агенты расширяют доступность✓ Be My AI на основе моделей OpenAI описывает фото для незрячих и слабовидящих пользователей✓ Be My Eyes сочетает мгновенный ответ ИИ с точностью волонтёров-людей в сложных случаях✓ Исследователи предупреждают, что автономные агенты могут плохо подходить людям с моторными и когнитивными особенностями✓ Главный принцип для доступных ИИ-агентов - расширять выбор пользователя, а не принимать решения за него
2уровня в гибридной модели Be My Eyes: быстрый ответ ИИ и точный ответ волонтёра
0целевое число решений, принятых агентом без ясного согласия пользователя - согласно принципам accessibility alignment
несколькокатегорий инвалидности, для которых автономные интерфейсы создают разные, а не одинаковые риски

С чего начиналась эта категория сервисов

Сервис Be My Eyes начинался как простое, но эффективное решение: незрячий или слабовидящий пользователь включает видеозвонок, а зрячий волонтёр с другого конца помогает разобраться в окружении - прочитать этикетку, найти нужную дверь, проверить срок годности продукта. Это работало, но зависело от наличия свободного волонтёра в конкретный момент.

Добавление Be My AI на основе технологии OpenAI убрало это ограничение для простых задач: пользователь делает фото и мгновенно получает текстовое описание того, что на нём изображено - вплоть до чтения меню в кафе или проверки срока годности продуктов в холодильнике.

Гибрид человека и модели как рабочая формула

Ключевая деталь в том, как Be My Eyes выстроил эту связку: ИИ-описание используется для быстрых и простых запросов, а волонтёр-человек подключается там, где нужна точность или контекст, который модель легко упускает - например, различить похожие упаковки лекарств или подтвердить, что дверь действительно открыта, а не просто выглядит так на фото.

  • быстрый ответ ИИ для рутинных и некритичных задач;
  • волонтёр-человек для ситуаций, где ошибка модели может быть опасна;
  • пользователь сам выбирает, какой уровень точности ему нужен в конкретный момент.

Эта модель - не компромисс, а осознанный дизайн: разработчики сервиса прямо описывают её как сочетание скорости ИИ и точности человека, а не как временное решение до полной автоматизации.

▲ хроника✓ ~2022 · Be My Eyes запускает сервис с волонтёрами для описания окружения незрячим людям✓ 2023 · в Be My AI добавляется функция описания фото на базе модели OpenAI✓ 2024-2025 · распознавание речи и живые субтитры становятся штатной функцией операционных систем✓ 2025-2026 · исследователи формулируют принципы «доступности» именно для автономных ИИ-агентов, а не только интерфейсов

От описания фото к полноценным агентам

Следующий шаг в индустрии - не просто описать изображение по запросу, а дать пользователю агента, который сам выполняет последовательность действий: бронирует билет, заполняет форму, разбирается в интерфейсе сайта. Для людей с инвалидностью это звучит как логичное продолжение - агент может взять на себя задачи, которые физически сложно выполнить самостоятельно.

Но исследователи в области доступности обращают внимание на обратную сторону: автономный агент, который принимает решения за пользователя быстрее, чем тот успевает среагировать, может оказаться хуже обычного интерфейса для части пользователей, а не лучше.

Почему автономность - не всегда плюс для доступности

Для людей с моторными нарушениями проблемой становится интерфейс, который продолжает двигаться и обновляться без паузы - агент, который сам переключает экраны или заполняет поля, не оставляет времени на то, чтобы вручную скорректировать его действие, если оно физически неудобно выполнить иначе.

Для людей с когнитивными особенностями проблема иная: агент, который ведёт себя непредсказуемо от одного обращения к другому, вызывает перегрузку и потерю доверия к системе, даже если формально каждое отдельное действие было правильным. В обоих случаях источник проблемы один - агент обобщает поведение по всей аудитории, но остаётся ненадёжным именно для пользователей с нестандартными потребностями.

Какие принципы предлагают исследователи

В ответ на эти риски появляется отдельное направление исследований - согласование ассистирующих агентов с нуждами доступности, а не только общая безопасность моделей. Ключевая идея в том, что агентный ИИ должен встраиваться в уже существующие вспомогательные технологии, а не конкурировать с ними за контроль над интерфейсом.

Главный принцип, который повторяется в этих работах: результатом работы агента должно быть расширение выбора пользователя, а не решение, принятое за него в обход его намерений. Цели должен ставить человек явно, а не модель - по косвенным и не всегда верным догадкам о том, чего хочет пользователь.

Роль распознавания речи и живых субтитров

Параллельно с развитием визуальных ассистентов заметный прогресс произошёл и в распознавании речи: живые субтитры и транскрибация в реальном времени стали штатной функцией многих операционных систем и коммуникационных сервисов, что особенно важно для людей с нарушениями слуха в рабочих созвонах и повседневном общении.

Качество распознавания при этом заметно зависит от акцента, скорости речи и качества звука, поэтому даже встроенные в операционную систему функции субтитров иногда требуют ручной корректировки - ситуация, похожая на гибридную модель Be My Eyes: автоматизация закрывает основную часть задачи, но не исключает необходимость точечной проверки человеком там, где ошибка модели создаёт реальное неудобство.

Где это пересекается с другими применениями ИИ-агентов

Похожий вопрос доверия к автономности агента встаёт и в других сферах - например, в планировании путешествий с помощью ИИ-агентов, где пользователю тоже важно понимать, какие решения агент принимает сам, а какие оставляет на подтверждение. Разница в том, что для пользователя с инвалидностью цена ошибки агента может быть выше: не просто неудобный выбор рейса, а реальный барьер в повседневной задаче.

На момент обновления материала единого отраслевого стандарта «доступного ИИ-агента» не существует - рекомендации пока формулируются в основном в исследовательских работах, а конкретные продукты применяют их выборочно, по собственному усмотрению разработчиков.

На уровне разработки продуктов это означает необходимость тестирования агентов не только на стандартных сценариях использования, но и с участием людей с разными типами инвалидности на этапе проектирования, а не после выхода продукта на рынок - подход, который пока остаётся скорее исключением, чем стандартной практикой в индустрии.

Вопросы и ответы

Что умеет Be My AI, в отличие от обычного Be My Eyes?

Be My AI мгновенно описывает фото текстом с помощью модели на базе технологии OpenAI, без ожидания свободного волонтёра, тогда как классический Be My Eyes подключает живого человека по видеозвонку.

Почему автономный ИИ-агент может быть не лучшим решением для доступности?

Потому что он может принимать решения быстрее, чем пользователь успевает среагировать или скорректировать его, что особенно неудобно для людей с моторными или когнитивными особенностями.

Какой принцип исследователи считают главным для доступных агентов?

Агент должен расширять выбор пользователя и действовать по явно поставленной человеком цели, а не принимать решения за него на основе догадок.

Заменяют ли ИИ-агенты вспомогательные технологии, уже используемые людьми с инвалидностью?

По мнению исследователей, не должны - агент должен встраиваться в уже привычные пользователю вспомогательные технологии, а не конкурировать с ними за контроль над интерфейсом.

Ещё по теме

Следующая новость уже в ленте