Верификация — проверка данных от ИИ
Верификация (от лат. verus — «истинный» и facere — «делать») — это процесс проверки информации, которую выдает ИИ, на точность и достоверность.
Важно помнить!
Проверка полученной от ИИ информации — это обязательная необходимость!
3 способа верификации (проверки) данных ИИ
Я вынес способы верификации данных в отдельный параграф, потому что это серьезный вопрос, который будет актуален еще много лет. Возможно, в будущем после ответа ИИ будет добавляться отметка — данные верифицированы другим ИИ или экспертом, — но пока таких возможностей нет.
Вот что придумал я на сегодня, что помогает мне получать относительно высокую уверенность в достоверности полученной информации:
1Дать эксперту
Самый лучший, на мой взгляд, способ верификации данных. Какой бы области это не касалось, помните, ИИ может допускать ошибки, и без проверки есть риски.
2Проверить самостоятельно
Требование в промпте указывать источник информации по каждому факту в ответе позволит провести «ручную», самостоятельную проверку по всем указанным в ответе ИИ источникам.
Пример задачи:
«напиши мне о пользе кверцетина и его содержании в различных продуктах, обязательно укажи ссылки на источники, чтобы я мог перейти по этим ссылкам и убедиться в истинности информации».
3Стать экспертом
Стать экспертом в той области, с которой работаете. Тогда верификацию будете проводить вы сами. Именно для этого я учусь каждый день, читаю книги о здоровье, научные исследования и т.д. Я хочу стать экспертом в области питания. Сейчас, получив диплом нутрициолога, я достиг уровня, когда сам замечаю, где ИИ ошибается и могу поменять запрос или задать уточняющий вопрос. На мой взгляд, самый лучший путь, но, конечно, он совмещается с пунктом 2, включая много ручной работы.
Проверка через другой ИИ
Это не вариант верификации, но это помощник для способов 1, 2 и 3. Ответ из одного чата с ИИ копируются в чаты к другим ИИ с просьбой провести проверку всех данных, указанных в статье, и выделить неточности, тем более опасные. Можно в запросе уточнить, что есть сомнения по поводу рекомендаций и т.д. Можно добавить к ответу и базовый промпт, который послужил основанием для такого ответа. И затем почитать, что скажет другой ИИ. Я постоянно так делаю. Однако всегда лучше отдать эксперту, потому что на здоровье не экономят.
Больше информации
Все что может помочь в верификации данных от ИИ я публикую у себя на телеграм-канале