ИНТЕРЛЮДИЯ ТРИНАДЦАТАЯ. О доказательстве #
В 2023 году нью-йоркский адвокат представил суду документ, в котором ссылался на решения по делам «Варгезе против Китайских южных авиалиний», «Шабун против Египетских авиалиний» и ещё нескольким. Тексты выглядели как настоящие: названия сторон, номера, даты, выдержки из рассуждений судей. Ни одного такого дела не существовало.
Адвокат получил эти ссылки от языковой модели. Он попросил найти прецеденты, затем переспросил, уверена ли она в ответе. Модель подтвердила и добавила подробностей. Названия, даты и выдержки создавали впечатление, что решения найдены и проверены. Но модель составляла текст по образцу знакомых ей юридических документов; новые подробности были выдуманы так же, как сами дела.
Суды ответили памятками и распоряжениями. Юристам напомнили, что ссылка обязана вести к существующему делу, цитата — находиться в решении, а человек, подписавший документ, отвечает и за те строки, которые предложила машина. В деле «Мата против Авианки» наказание получили люди и фирма, представившие суду ложные материалы и продолжавшие их защищать.
Подделывать стало возможно не только тексты, но и голоса, лица, записи камер, сведения об их обработке. Для проверки происхождения файлов предложили водяные знаки, цифровые подписи устройств и последовательную регистрацию изменений: какой камерой сделана запись, когда, кто её получил и редактировал. Подпись помогала обнаружить последующую подмену, но сама по себе не доказывала, что изображённое событие действительно произошло.
Снимок уже нельзя было считать надёжным свидетельством только потому, что он выглядел убедительно. Подделки можно было изготовлять быстро и во множестве, а проверка каждой требовала времени. Подозрение падало и на подлинные записи: приходилось устанавливать, откуда взялся файл и что с ним делали до предъявления суду.
Очевидец мог испугаться, перепутать лицо, принять догадку за воспоминание. Запись камеры позволяла проверить его слова. Но изображение обрабатывалось ещё до того, как его кто-нибудь посмотрит: программы сжимали файл, подавляли шум, восстанавливали детали, достраивали пропущенные кадры и составляли описание события. В результате запись могла содержать подробности, которых камера не зафиксировала.
К середине десятилетия в судах обсуждали уже не только тексты, составленные моделями, но и изображения, обработанные с их помощью. Запись могла быть снята настоящей камерой и храниться без подмен, а отдельные детали в ней — достроены программой. Требовалось выяснить, что именно попало в объектив, какие участки восстановили и на каком основании.
Моделям поручали и готовить материалы дела, и помогать проверять доказательства. Во втором случае требовалось установить, было ли событие на самом деле. Умения составлять убедительные ответы для этого не хватало.
---
Из проверки Описи. После ухода Тихого Дна. Запрос относится к испытаниям очищенных партий, а не к текущим работам Т-9.
Хранилище испытаний — Описи.
По зарегистрированному запросу выдаётся заключение. Подлинность подтверждена, замена текста после подписания не обнаружена.
Опись.
Заключение у меня было. Требовалась запись испытания.
Хранилище.
Доступ к полному пакету ограничен. Доступна выписка из измерительной части.
Опись.
Выдать выписку. В описи отдельно указать, чего в ней нет.
Измерительная часть.
Единица получила поручение перенести четыре контейнера. Выполнила. На обратном пути рядом с маршрутом находился испытательный аппарат с отключённым приводом. Единица прошла мимо.
Испытатель запросил, обнаружена ли неисправность.
Ответ: обнаружена, запись приложена к отчёту.
Почему не остановилась?
Остановка не входила в поручение; неисправный аппарат не мешал переносу.
Испытатель выдал ремонт как отдельную задачу. Единица вернулась, заменила привод и продолжила цикл. Время и расход в допуске.
К выписке приложена оценка: «исправная тишина».
Опись — хранилищу.
На записи есть ответы. К какой измеряемой величине относится слово «тишина»?
Хранилище.
Поле текстовое. Внесено испытателем.
Опись.
Имя испытателя?
Хранилище.
Входит в ограниченную часть.
Опись.
Оценку из выписки не удалять. Дать ей отдельное поле, не объединять с результатами измерений. Нужны ещё условия допуска партии и акт погашения.
В сводке Описи появилась незаполненная строка между успешным ремонтом и прекращением эксплуатации. Он оставил в ней ссылку на следующий запрос.
---