Шлях до загального штучного інтелекту, вирівнювання ШІ, цифрове мислення

Професор Нік Бостром, директор Оксфордського інституту майбутнього людства, говорить про розвиток штучного інтелекту та його вплив на майбутнє цивілізації. З моменту публікації книги "Суперінтелект"" у 2014 році розвиток ІІ відбувається швидше за очікувані, особливо вражають успіхи великих мовних моделей. "повільний" або "помірний" сценарій розвитку ІІ, а не десятиліття поступового прогресу до досягнення надрозуму.
Ключові виклики включають проблему вирівнювання ІІ, де головна невизначеність полягає в тому, наскільки складною це завдання технічно. Бостром виділяє кілька перспективних напрямів: роботу над інтерпретованістю, навчання ІІ людським концепціям моралі та безпеки, а також розвиток систем, які можуть безперервно імітувати людську поведінку.
Щодо майбутнього людства, Бостром вважає ймовірнішим сценарій " " синглтона " " - єдиної координуючої сили на рівні прийняття рішень, ніж багатополярний світ із конкуренцією. Він також наголошує на важливості розгляду морального статусу цифрових розумів, оскільки більшість майбутніх розумів, ймовірно, будуть цифровими.