Как нейросеть отвечает и почему может выдумать

Как нейросеть отвечает? Она пишет текст слово за словом — каждый раз выбирает продолжение, которое выглядит самым подходящим. Даже когда она ищет в интернете или читает ваш файл, ответ она всё равно сочиняет сама.

Посмотрите: после слов «поставка переносится на» подходят и «пятницу», и «следующую неделю», и «21 ноября». Если вы не назвали дату, нейросеть выберет правдоподобную — но не обязательно вашу.

Так же с ценами, сроками и номерами пунктов. Например, на просьбу «напиши клиенту, сколько стоит доставка» без цены в запросе нейросеть может уверенно написать «1 500 ₽». Чего нет в запросе, она может додумать — и написать так же уверенно, как правду. Это и называют выдумками.

Ваших цен, клиентов и договоров она не знает, пока вы их не дадите. Свежих новостей — если не включён поиск в интернете. А прошлые чаты помнит, только если включена память.

И ещё: на один и тот же запрос она каждый раз отвечает немного по-разному. Это нормально — главное, чтобы факты в ответе были ваши.

Отсюда главное правило курса: факты даёте вы, а проверка — за вами.