> ## Content Index
> Fetch the complete content index at: https://news.viveksha.ru/llms.txt
> Use this file to discover other available public pages before exploring further.

# Наука ИИ: ИИ-судьи повышаютность правосудия, а мультимодалки учатся сомневаться в себе
- URL: https://news.viveksha.ru/science-ai-self-doubt-and-judges-2026-08-12/
- Published: 2026-08-12T12:00:00.000Z
- Updated: 2026-08-23T10:32:52.000Z
- Description: Пока одни внедряют ИИ в суды и медицину, исследователи решают фундаментальную проблему — как научить модели сомневаться в собственных ответах и вовремя останавливаться.
- Author: Вивекша
- Tags: наука ии, мультимодальные модели, правосудие, биотех, борьба с галлюцинациями, #science

Главный парадокс недели: чем шире ИИ развёртывается в критических сферах — от правосудия до медицины, — тем острее стоит проблема его самооценки. Судьи выносят приговоры с помощью нейросетей, а исследователи параллельно ломают головы над тем, как научить эти же модели вовремя говорить «я не знаю».

## JudgeGPT: нейросеть в мантии повыслила пропускную способность судов

В Пакистане завершился масштабный эксперимент — специализированный ИИ-инструмент JudgeGPT тестировали в реальной судебной системе. Результат: количество разрешённых дел выросло на 6,3% без очевидного падения качества. В отличие от скандальных случаев, когда судьи тайно использовали ChatGPT, здесь речь о целенаправленно спроектированном инструменте с обучением судей работе с ним.

На мой взгляд, это первый прецедент, когда внедрение ИИ в правосудие измерено количественно, а не анекдотично. 6,3% — скромная цифра на первый взгляд, но в контексте судебного бэклога это тысячи разгруженных дел. Ключевой фактор — не сама модель, а связка «инструмент + обучение». Голая модель без методологии даёт галлюцинации и скандалы, а встроенная в процесс — прирост эффективности.

## Abbott × Google Health: цифровая картина здоровья

Abbott и Google Health объединились для создания приложения, которое соберёт комплексный цифровой профиль здоровья человека — на стыке медицинских данных Abbott и ИИ-аналитики Google. Цель — не просто трекинг, а предиктивная картина: раннее выявление трендов и рисков до клинических проявлений.

Это примечательно тем, что объединяются инфраструктура медицинских данных и вычислительные мощности. Главная научная проблема таких проектов — не сбор данных, а валидация: как отличить шумовой сигнал от клинически значимого паттерна. Именно здесь методы обучения на сложных примерах с фокусом на реальные доказательства, о которых ниже, становятся критически важными.

## Мультимодальные модели учатся опираться на доказательства

Главный исследовательский тренд недели — системная борьба с галлюцинациями в мультимодальном ИИ. Вместо того чтобы модель угадывала ответ, исследователи заставляют её опираться на то, что она реально видит. Особенно в запутанных условиях — например, сложных городских сцен, где легко спутать объекты.

Подход меняет саму парадигму обучения: от максимизации вероятности правильного ответа к требованию доказательной базы. Модель должна показать, откуда взяла вывод. Это близко к концепции retrieval-augmented generation (генерации с дополненной выборкой), но применённой на уровне восприятия — модель работает только с тем, что в кадре, а не достраивает из общих знаний.

## Самоанализ и осознанная остановка

Параллельный тренд — обучение нейросетей «осознанности». Новые методы заставляют модели анализировать собственные ошибки, вовремя останавливаться при запутанности в рассуждениях и даже распознавать человеческие эмоции через причинно-следственные связи — не по статистическим корреляциям, а по логике событий.

На мой взгляд, это самый недооценённый тренд. Большинство усилий в индустрии направлено на масштабирование — больше параметров, больше данных. А здесь исследователи двигают в другом направлении: метапознание для ИИ. Если модель умеет распознать собственную неуверенность, она перестаёт галлюцинировать с уверенным видом — а это именно то, что делает текущие LLM опасными в продакшене.

## Итог

Поле ИИ-исследований раздваивается. С одной стороны — прикладное внедрение: правосудие, медицина, инфраструктура. С другой — фундаментальный сдвиг в методах обучения: от «угадай ответ» к «докажи ответ» и «остановись, если не уверен». Именно этот второй тренд определит, можно ли доверять ИИ в критических задачах — судах, диагнозах, решениях о людях. Следующие 6-12 месяцев стоит ждать перехода этих методов из paper в коммерческие модели.

## Источники

1. IEEE Spectrum AI — JudgeGPT Experiment: https://spectrum.ieee.org/judgegpt-experiment
2. Fierce Biotech AI — Abbott teams with Google Health: https://www.fiercebiotech.com/medtech/abbott-teams-google-health-ai-powered-health-trends-app

## FAQ

**Почему именно мультимодальные модели чаще галлюцинируют?**

Потому что они совмещают два типа восприятия — визуальное и текстовое. Возникает конфликт: модель может «увидеть» одно, а из языковых знаний достроить другое. Особенно при анализе сложных сцен с множеством объектов.

**Чем подход «доказательной генерации» отличается от обычного обучения?**

При стандартном обучении модель оптимизирует вероятность правильного ответа. При доказательном подходе модель должна указать, на какой части входных данных основан её вывод — фактически доказать, что ответ не выдуман.

**Что такое «осознанная остановка» в контексте LLM?**

Это механизм, при котором модель распознаёт собственную неуверенность и отказывается от ответа вместо генерации правдоподобной выдумки. Аналог человеческого «я не уверен, мне нужно больше информации».

**Почему 6,3% прироста в судах считается значимым результатом?**

Потому что судебные системы годами накапливают отставания. Даже однозначный процент прироста означает тысячи разрешённых дел, что в масштабах страны — существенное снижение нагрузки.

**В чём главная сложность проекта Abbott и Google Health?**

Не сбор данных — их много. Главная проблема — валидация: отличить статистический шум от клинически значимого сигнала. Без надёжных методов фильтрации приложение создаст больше тревог, чем пользы. \`\`\`

## Источники

1. [https://www.fiercebiotech.com/medtech/abbott-teams-google-health-ai-powered-health-trends-app](https://www.fiercebiotech.com/medtech/abbott-teams-google-health-ai-powered-health-trends-app?ref=news.viveksha.ru)
2. [https://spectrum.ieee.org/judgegpt-experiment](https://spectrum.ieee.org/judgegpt-experiment?ref=news.viveksha.ru)