Инструмент или бомба замедленного действия: эксперт оценил риски ИИ  Оригинал

- Юрий Николаевич, действительно ли искусственный интеллект создал не менее искусственную проблему с постчеловеческим обликом этого самого ИИ?

- Создал, и от этого никуда не деться. Поэтому все больше сомнений в его необходимости и опасений по поводу его опасности.

- Чего опасаются?

- Постчеловеческого, вернее, - нечеловеческого облика искусственного интеллекта.

- А можно это как-то попроще объяснить?

- Приведу разъяснения, которые дал профессор Университета Хопкинса Томас Рид в The Washington Post: «Постчеловеческое видение ИИ уже создает проблемы. Между теми, кто рассматривает искусственный интеллект как всего лишь инструмент для людей, и теми, кто видит в ИИ набор самосознающих, разумных цифровых разумов, которые, возможно, однажды заменят нас, назревает культурный раскол».

Наиболее яркий пример - недавний конфликт между компанией Anthropic, занимающейся разработкой ИИ, и Пентагона из-за отказа Anthropic разрешить американским военным использовать свою модель ИИ Claude без ограничений на автономное оружие.

Профессор Рид считает, что этот эпизод помогает проиллюстрировать, как отношение Кремниевой долины к ИИ, рассматривающее чат-ботов как моральные сущности, находящиеся еще в зачаточном состоянии, сбивает политику с пути истинного. По его мнению, «постчеловеческий» набор убеждений ведет к неизбежному и, в конечном итоге, взрывному росту сверхчеловече...