Вероятность исчезновения человечества из-за ИИ по мнению ученых достигает 99,9%

По информации, опубликованной 9 декабря в Daily Star, существует крайне высокая вероятность того, что человечество может исчезнуть из-за искусственного интеллекта в течение следующего века. Роман Ямпольский, эксперт в области ИИ, оценивает этот риск на уровне 99,9%. Он утверждает, что ни одна из существующих на данный момент систем не является полностью безопасной, и будущие разработки также могут иметь серьезные недостатки.

Тем не менее, среди научного сообщества мнения по этому вопросу разделились. Согласно исследованию, проведенному учеными из Оксфордского и Боннского университетов, всего 5% специалистов считают, что ИИ может стать причиной вымирания человечества. Один из авторов работы, Катя Грейс, подчеркивает, что обсуждение рисков, связанных с ИИ, стало актуальным среди экспертов, однако разногласия касаются лишь степени этого риска, которая варьируется от 1% до 20%.

Критики апокалиптических предсказаний, такие как Эндрю Ын, сооснователь Google Brain, высказывают мнение, что подобные заявления могут быть частью лоббистских действий крупных компаний, стремящихся ужесточить регулирование в своих интересах.

Сэм Альтман, генеральный директор OpenAI, не раз поднимал вопрос о потенциально опасном характере ИИ, утверждая, что технологии приведут к исчезновению ряда профессий и потребуют изменения социального контракта. Однако его заявления подвергаются критике за противоречивость, особенно учитывая активные коммерческие инициативы компании.

Эксперты отмечают, что обсуждение экзистенциальных рисков, связанных с искусственным интеллектом, часто отвлекает внимание от более актуальных проблем, таких как предвзятость алгоритмов, вопросы кибербезопасности и социально-экономические последствия автоматизации. Ранее, 6 декабря, генеральный директор и сооснователь Google DeepMind делился размышлениями о том, когда ИИ сможет осознать себя.

Читайте также: