Создание промптов и проверка генеративного ИИ (теория)

Артур Каканде представляет введение в Prompt Engineering и Adversarial Testing для больших языковых моделей (LLM). Каканде описывает различные техники создания промптов, такие как zero-shot, few-shot и chain-of-thought. Особое внимание уделено модерации LLM для предотвращения вредоносного контента и промпт-инъекций. Демонстрируется адверсариальное тестирование — метод выявления уязвимостей в LLM путём целенаправленного ввода сложных данных.