Про обробку інформації з обмеженим доступом штучним інтеллектом

Цкйво, спочатку я з цього листа просто поржав, але потім задумався — і стало реально страшно.

Трохи поясню для тих, хто не до кінця розуміє, як працюють LLM (штучні інтеллекти).

Ми даємо задачу:

 Модель бере масив уже завантажених даних з правопису, контекст про Шевченка і видає виправлений варіант. Для користувача на цьому все закінчується. Але не для розробника: він отримує анонімізований (ну вони так кажуть що інформація про користувача не збирається) масив даних у вигляді токенів — закодованих фрагментів тексту, яким reward-модель (автоматичний оцінювач відповідей) уже виставила оцінки. Частина цих оцінок може бути використана для подальшого донавчання моделі. Або ні ¯\_(ツ)_/¯ Далі я роблю запит на редагування наступного тексту:

 Але в моделі вже є ембединг (виправлення) для дуже схожого тексту:

 І вона відповість пану майору «правильну» версію. А звідки взявся цей текст? Очевидно, якийсь діловод кинув реальний документ на перевірку в бота. Страшно? Поки що не дуже.

Запитайте у Grok, хто красивіше стрибає — Ілон Маск чи Майкл Джордан. Або у DeepSeek — про «злочини КНР проти власного населення». Ці моделі беруть запити, фільтрують їх і накопичують як матеріал для подальшої фільтрації та корекції відповідей. Наприклад, той самий Grok нещодавно доводив, що саме Ілон Маск «краще за всіх нюхає кокс». Це було зроблено в результаті неправильного налаштування моделі, яка мала ігнорувати факти і казати що Ілон краще за всіх. Після аналізу запитів і внутрішнього редагування він почав формулювати це вже інакше: що Ілон — «найчистіший серед усіх наркоманів». А що ще аналізують аналітики Grok? Ваші запити? БРку, яку діловод кинув на вичитку? Штатний розпис для вирівнювання стовпчиків?))

Наче очевидні речі, але страшно що хтось їх не розуміє настільки що треба окремо розказувати це... Не використовувати ШІ в 2026 це як не використовувати електроенергію у 1926: ще жити можна, але ті хто його не використовує - на 2 кроки позаду. Як виходжу з цього я: якщо питаю у чата щось військове — спочатку заміняю номери ВЧ і прізвища на рандомні. Він вичитує текст, а потім я повертаю все назад. Ну і, звісно, ніколи не фотографую ДСК-телеграми, щоб Gemini відцифровував текст))