Проверка банка задач пачкой

Вспомните прошлый урок: пять дефектов и как они выглядят в ответе нейросети. По одному заданию так проверять можно, но банк на тему — это десятки заданий. Нужен другой ритм: отдать нейросети файл целиком и получить таблицу, где сразу видно, куда смотреть.

🎯 После урока сможете: запросить проверку всего файла банка за один раз; прочитать отчёт-таблицу расхождений; решить, какие задания перепроверять руками, даже если нейросеть согласилась с эталоном.

Кейс: 600 задач за один день

В моей школе конвейер проверки выглядел так: задача прорешивается, проверяется на честность (чтобы ответ нельзя было угадать), уточняется по моим правкам и уезжает на платформу. За один день я просмотрел и согласовал 600 задач, а за два дня на платформе была опубликована 541 задача. Нейросеть делала черновую работу, а решение по каждой спорной строке принимал я.

Как устроена проверка пачкой

Проверка пачкой: файл условий без ответов и отдельный файл эталонов. Шаг 1 — нейросеть решает условия, не видя эталонов, и даёт файл ответов. Шаг 2 — сравнение ответов с эталонами отдельным запросом или вами. Отчёт: номер, эталон, ответ, совпало, неясно. Дальше вы решаете: оставить, исправить эталон или исправить условие.

Главное правило из первого урока темы действует и здесь: нейросеть не должна видеть эталоны, пока решает. Просьба «не читай эталоны» не помогает, если они лежат в том же файле: агент всё равно откроет файл целиком и может подогнать решение под готовый ответ. Поэтому держите в подпапке задания/ папки предмета два файла: в одном только условия, в другом только эталоны. На первом шаге агент получает файл условий и сохраняет свои ответы. Сравнение с эталонами — второй, отдельный запрос, когда ответы уже записаны. Можно сравнить и самому: две колонки чисел сверяются за минуту.

Запрос 1 (решение):
В папке задания/ лежит файл usloviya-drobi.md: только условия, без ответов.
Реши каждое задание как ученик 6 класса.
Сохрани ответы в файл otvety-drobi.md таблицей: номер | твой ответ | что неясно в условии.
Другие файлы папки не открывай. Условия не меняй.

Запрос 2 (сравнение, отдельно, после первого):
Сравни otvety-drobi.md с файлом etalony-drobi.md.
Сохрани отчёт в proverka-drobi.md таблицей:
номер | эталон | ответ | совпало (да/нет) | что неясно.
Ни ответы, ни эталоны не меняй.

Последние строки обоих запросов не формальность. Решать, что исправлять, будете вы; агент, которому разрешили «заодно поправить», может переписать верный ключ под свою ошибку.

Как читать отчёт

Сначала смотрите строки «нет» в колонке «совпало»: по каждой — разбор из первого урока темы (эталон, условие или нейросеть). Потом колонку «неясно»: даже при совпавшем ответе пометка вроде «не сказано, в каких единицах» указывает на дефект формата. Русский язык даёт тут больше пометок, чем математика: у задания на разбор слова часто допустимы два разумных ответа.

Когда перепроверять руками, даже если совпало

Нейросеть и автор ключа могут ошибиться одинаково: например, оба забыли, что граница «включительно». Совпадение тогда выглядит как подтверждение, хотя ответ неверный. Поэтому совпавшие строки тоже просматриваем выборочно, и обязательно руками перепроверяем:

  • задания нового для вас типа, которые вы ещё ни разу не проверяли;
  • задания с длинным счётом и многошаговые задачи (здесь нейросеть ошибается чаще);
  • задания, где нейросеть в колонке «неясно» что-то написала;
  • задания для контрольной или экзамена, где цена ошибки для ученика высока.
Оценку заданию ставит преподаватель. Отчёт нейросети — черновик для вашего решения, а не само решение.

Проверьте себя

Контрольный вопрос. В данных задания — отчёт по пачке из 8 заданий уже после разбора преподавателем. Столбцы: номер, эталон, ответ нейросети, решение преподавателя. Сколько заданий уходят ученикам без единой правки (ни эталон, ни условие не меняли)? Введите число.

№ | эталон | нейросеть | решение преподавателя
1 | 12 | 12 | —
2 | 7 | 7 | —
3 | 30 | 36 | эталон неверен, исправлен
4 | 5 | 5 | —
5 | 18 | 16 | эталон верен, ошиблась нейросеть
6 | 100 | 100 | —
7 | 9 | 8 | условие исправлено
8 | 4 | 4 | —

Подсказка: Без правок уходят не только совпавшие строки. Посмотрите, что решили по каждому расхождению.

На курсе задания проверяются автоматически. Решить первое задание бесплатно →  ·  Подобрать курс

Контрольный вопрос. Нейросеть согласилась с эталоном во всех 20 заданиях новой контрольной. Как поступить?

АОтправить контрольную ученикам без просмотра: всё совпало
БВыборочно перепроверить руками, в первую очередь многошаговые задания и задания нового типа
ВПрогнать ту же пачку ещё раз и выдать, если снова всё совпадёт

Подсказка: Вспомните, почему совпадение не всегда означает, что ответ верный.

На курсе задания проверяются автоматически. Решить первое задание бесплатно →  ·  Подобрать курс

Контрольный вопрос. В данных задания — отчёт проверки пачкой. Ответы нейросети совпали с эталонами в трёх заданиях, но одно из совпавших всё равно нужно перепроверить руками. Введите номер этого задания одной цифрой.

№ | эталон | ответ | совпало | что неясно
1 | 12 | 12 | да  | нет
2 | 7  | 7  | да  | не сказано, в каких единицах записать ответ
3 | 30 | 36 | нет | нет
4 | 5  | 5  | да  | нет

Подсказка: Смотрите не только на колонку «совпало»: какие ещё пометки нейросети говорят о дефекте условия?

На курсе задания проверяются автоматически. Решить первое задание бесплатно →  ·  Подобрать курс

Контрольный вопрос. Как подготовить файлы, чтобы нейросеть при проверке пачкой не увидела эталоны?

АОставить эталоны в том же файле и написать в запросе «эталоны не читай»
БПоложить условия в один файл, эталоны в другой, а сравнение сделать вторым запросом или самому
ВВставить эталоны в конец каждого условия мелким шрифтом

Подсказка: Вспомните, почему просьба «не смотри» не работает, если ответ лежит рядом.

На курсе задания проверяются автоматически. Решить первое задание бесплатно →  ·  Подобрать курс

Что дальше

Теперь вы умеете проверять банк пачкой, читать отчёт расхождений и понимаете, где нейросети верить нельзя. В практике темы прогоните через эталонного ученика свои собственные задания.

← Назад  ·  ↑ В начало урока  ·  ⌂ К навигатору курса  ·  Вперёд →

Школа Виктора Комлева