30 лет до конца? Хинтон о рисках искусственного интеллекта для человечества
Джеффри Хинтон, признанный эксперт в области искусственного интеллекта, поднял вопрос о возможных рисках, связанных с этой технологией. Он пересмотрел свои взгляды и теперь считает, что вероятность того, что ИИ может привести к гибели человечества в течение 30 лет, составляет от 10% до 20%. Это предупреждение подчеркивает необходимость более серьезного подхода к исследованиям и разработкам в области ИИ, чтобы минимизировать риски и обеспечить безопасное будущее для человечества. Об этом сообщает piterburger.ru
Хинтон предсказывает: ИИ может стать причиной гибели человечества за 30 лет
Недавно Джеффри Хинтон, известный ученый в области искусственного интеллекта, пересмотрел свои прогнозы о возможных угрозах, связанных с развитием ИИ. Если ранее он оценивал вероятность катастрофического сценария в 10%, то теперь он считает, что этот риск может достигать 10–20%. В интервью на BBC Radio 4 в программе Today Хинтон объяснил, что человечество никогда не сталкивалось с существами, обладающими более высоким уровнем интеллекта. Он отметил, что в истории не зафиксировано случаев, когда более умные существа полностью подчинялись менее разумным. В качестве редкого примера он привел отношения между матерью и младенцем, где ребенок может влиять на поведение матери благодаря механизмам, сформированным эволюцией. Однако таких примеров, по его словам, крайне мало. Хинтон подчеркнул, что по сравнению с мощными системами ИИ люди могут выглядеть как трехлетние дети, что подчеркивает важность осознания потенциальных рисков.
ИИ беспокоит «крестного отца»?
Джеффри Хинтон, один из основателей искусственного интеллекта, неоднократно высказывал тревогу по поводу неконтролируемого развития этой технологии. В 2023 году он решил уйти с должности в Google, чтобы иметь возможность открыто делиться своими опасениями о рисках, связанных с ИИ, особенно в контексте его возможного использования недобросовестными участниками. Хинтон указывает на одну из самых серьезных угроз — создание ИИ, который превзойдет человеческий интеллект, что может привести к утрате контроля над такими системами.
Когда его спросили, ожидал ли он такой стремительный прогресс в области искусственного интеллекта, Хинтон признал, что не предполагал такого быстрого развития и считал, что подобные проблемы возникнут только в будущем. Тем не менее, он отметил, что многие эксперты прогнозируют, что в течение следующих 20 лет будут разработаны системы, обладающие интеллектом, превосходящим человеческий, что вызывает у него глубокую озабоченность.
Ученый подчеркивает, что темпы технологического прогресса оказались значительно выше его ожиданий, и настаивает на необходимости регулирования этой сферы. Хинтон выражает сомнения в том, что рыночные механизмы смогут обеспечить необходимую безопасность, указывая на то, что крупные компании, ориентирующиеся на прибыль, не будут уделять должного внимания потенциальным рискам. По его мнению, единственным способом заставить эти компании инвестировать в исследования безопасности является вмешательство государства.
Несмотря на свою репутацию одного из «отцов» искусственного интеллекта и получения премии Тьюринга, Хинтон сталкивается с разногласиями среди своих коллег. Янн Лекун, еще один лауреат этой премии, придерживается более оптимистичного взгляда, утверждая, что искусственный интеллект может стать инструментом, способным спасти человечество от угрозы вымирания. Это разнообразие мнений подчеркивает сложность вопросов, касающихся будущего ИИ, и необходимость открытого диалога о его последствиях.
Материалы партнеров:
Читайте другие новости:
Читайте также