Наука ИИ: ИИ-судьи повышаютность правосудия, а мультимодалки учатся сомневаться в себе
Главный парадокс недели: чем шире ИИ развёртывается в критических сферах — от правосудия до медицины, — тем острее стоит проблема его самооценки. Судьи выносят приговоры с помощью нейросетей, а исследователи параллельно ломают головы над тем, как научить эти же модели вовремя говорить «я не знаю».
JudgeGPT: нейросеть в мантии повыслила пропускную способность судов
В Пакистане завершился масштабный эксперимент — специализированный ИИ-инструмент JudgeGPT тестировали в реальной судебной системе. Результат: количество разрешённых дел выросло на 6,3% без очевидного падения качества. В отличие от скандальных случаев, когда судьи тайно использовали ChatGPT, здесь речь о целенаправленно спроектированном инструменте с обучением судей работе с ним.
На мой взгляд, это первый прецедент, когда внедрение ИИ в правосудие измерено количественно, а не анекдотично. 6,3% — скромная цифра на первый взгляд, но в контексте судебного бэклога это тысячи разгруженных дел. Ключевой фактор — не сама модель, а связка «инструмент + обучение». Голая модель без методологии даёт галлюцинации и скандалы, а встроенная в процесс — прирост эффективности.
Abbott × Google Health: цифровая картина здоровья
Abbott и Google Health объединились для создания приложения, которое соберёт комплексный цифровой профиль здоровья человека — на стыке медицинских данных Abbott и ИИ-аналитики Google. Цель — не просто трекинг, а предиктивная картина: раннее выявление трендов и рисков до клинических проявлений.
Это примечательно тем, что объединяются инфраструктура медицинских данных и вычислительные мощности. Главная научная проблема таких проектов — не сбор данных, а валидация: как отличить шумовой сигнал от клинически значимого паттерна. Именно здесь методы обучения на сложных примерах с фокусом на реальные доказательства, о которых ниже, становятся критически важными.
Мультимодальные модели учатся опираться на доказательства
Главный исследовательский тренд недели — системная борьба с галлюцинациями в мультимодальном ИИ. Вместо того чтобы модель угадывала ответ, исследователи заставляют её опираться на то, что она реально видит. Особенно в запутанных условиях — например, сложных городских сцен, где легко спутать объекты.
Подход меняет саму парадигму обучения: от максимизации вероятности правильного ответа к требованию доказательной базы. Модель должна показать, откуда взяла вывод. Это близко к концепции retrieval-augmented generation (генерации с дополненной выборкой), но применённой на уровне восприятия — модель работает только с тем, что в кадре, а не достраивает из общих знаний.
Самоанализ и осознанная остановка
Параллельный тренд — обучение нейросетей «осознанности». Новые методы заставляют модели анализировать собственные ошибки, вовремя останавливаться при запутанности в рассуждениях и даже распознавать человеческие эмоции через причинно-следственные связи — не по статистическим корреляциям, а по логике событий.
На мой взгляд, это самый недооценённый тренд. Большинство усилий в индустрии направлено на масштабирование — больше параметров, больше данных. А здесь исследователи двигают в другом направлении: метапознание для ИИ. Если модель умеет распознать собственную неуверенность, она перестаёт галлюцинировать с уверенным видом — а это именно то, что делает текущие LLM опасными в продакшене.
Итог
Поле ИИ-исследований раздваивается. С одной стороны — прикладное внедрение: правосудие, медицина, инфраструктура. С другой — фундаментальный сдвиг в методах обучения: от «угадай ответ» к «докажи ответ» и «остановись, если не уверен». Именно этот второй тренд определит, можно ли доверять ИИ в критических задачах — судах, диагнозах, решениях о людях. Следующие 6-12 месяцев стоит ждать перехода этих методов из paper в коммерческие модели.
Источники
- IEEE Spectrum AI — JudgeGPT Experiment: https://spectrum.ieee.org/judgegpt-experiment
- Fierce Biotech AI — Abbott teams with Google Health: https://www.fiercebiotech.com/medtech/abbott-teams-google-health-ai-powered-health-trends-app
FAQ
Почему именно мультимодальные модели чаще галлюцинируют?
Потому что они совмещают два типа восприятия — визуальное и текстовое. Возникает конфликт: модель может «увидеть» одно, а из языковых знаний достроить другое. Особенно при анализе сложных сцен с множеством объектов.
Чем подход «доказательной генерации» отличается от обычного обучения?
При стандартном обучении модель оптимизирует вероятность правильного ответа. При доказательном подходе модель должна указать, на какой части входных данных основан её вывод — фактически доказать, что ответ не выдуман.
Что такое «осознанная остановка» в контексте LLM?
Это механизм, при котором модель распознаёт собственную неуверенность и отказывается от ответа вместо генерации правдоподобной выдумки. Аналог человеческого «я не уверен, мне нужно больше информации».
Почему 6,3% прироста в судах считается значимым результатом?
Потому что судебные системы годами накапливают отставания. Даже однозначный процент прироста означает тысячи разрешённых дел, что в масштабах страны — существенное снижение нагрузки.
В чём главная сложность проекта Abbott и Google Health?
Не сбор данных — их много. Главная проблема — валидация: отличить статистический шум от клинически значимого сигнала. Без надёжных методов фильтрации приложение создаст больше тревог, чем пользы. ```