Крейг Мартелл: Зіграємо в гру?

Виступ на DEF CON 31 про ризики надмірної довіри до великих мовних моделей. Спікер пояснює, що LLM — це насамперед статистичні системи, які передбачають наступне слово, а не справжні системи мислення.

Він попереджає, що через здатність генерувати переконливий текст люди схильні надто їм довіряти, незважаючи на помилки та «галюцинації».

У докладі підкреслюється необхідність перевірюваних метрик, реальних сценаріїв застосування та роль хакерів у виявленні слабких місць ІІ-систем — особливо в критично важливих сферах, таких як оборона.