Если мы хотим иметь искусственный интеллект, мы должны сделать его одновременно безопасным и этичным.

Делиться:  

   Критически важную проблему создания центров обработки данных на Крите и их огромные потребности в воде и энергии решает  профессор Георгий Халкиадакис из Школы электротехники и вычислительной техники Технического университета Крита, один из ведущих мировых исследователей в области искусственного интеллекта (ИИ), входящий в число 0,24% лучших ученых в этой области .

Известный критский ученый, выступая на  радио ZARPA RADIO 89.6 вместе с Элени Фунтулаки, бьет тревогу по поводу экологических издержек стремительного развития искусственного интеллекта.

«Летом у нас здесь нет питьевой воды. Будем ли мы строить центры обработки данных, которым потребуется большое количество чистой воды?», — задается он вопросом, отмечая, что любое решение о новой инфраструктуре ИИ на Крите должно приниматься после того, как будет рассчитан и учтен ее экологический след.

В то же время это поднимает вопросы о том, что произойдет, если общество безоговорочно доверится ИИ без человеческого контроля, подчеркивая необходимость ограничений и гарантий. И все это в то время, когда дискуссия о надежности цифрового контента становится все более важной, поскольку ИИ сейчас производит огромные объемы текста, изображений, видео и другого контента.

Интересная дискуссия о достоверности информации, человеческом суждении и будущем интернета…

• Мы видим, что эксперты из Силиконовой долины прогнозируют взрывной рост искусственного интеллекта в течение следующих двух лет, когда модели во многих областях приблизятся к человеческим возможностям или даже превзойдут их. Насколько, по-вашему, мы близки к этому моменту?

Спасибо за вопрос. Я дам краткий ответ. Если бы вы задали этот вопрос 15 лет назад, то получили бы оценки от 50 до 500 лет относительно того, превзойдет ли искусственный интеллект человека, человеческий интеллект и многие другие области.

Сейчас, как вы и сказали, по оценкам, речь идет о сроке до двух лет – с этой цифрой многие теперь согласны – чтобы… спасти все и избежать негативных последствий.

• В одном из интервью вы сказали, что искусственный интеллект сделает нас глупее. Что именно вы имеете в виду? Существует ли риск того, что, поскольку ИИ предоставляет нам готовые ответы, мы постепенно перестанем искать информацию, читать, думать самостоятельно и станем более ленивыми? 

Да, именно это я и имел в виду, и я сказал, что неправильное использование может сделать нас глупее.

Мы уже это наблюдаем, и мы видим это также в университетах, мы видим это, я думаю, во всех секторах.

Искусственный интеллект может сделать нас немного ленивее, немного бездеятельнее, например, мы можем нажать кнопку и не искать ничего.

Мозг — это мышца, даже если вы её не тренируете (это всё равно создаст проблемы). Но мозг — это не просто какая-то мышца или какая-то способность, которую мы можем потерять, ведь мы потеряли многие из них за столетия, особенно в последние десятилетия...

• Такой как;

Например, способность запоминать и  декламировать наизусть, скажем, гомеровские эпосы или «Эротокрит».  Я не думаю, что сегодня кто-то способен на это, тогда как три поколения назад такие люди, возможно, еще существовали.

Но проблема возникает, когда вы перестаёте думать и теряете способность искать, фильтровать информацию, действовать, анализировать и читать.

Например,  чтение книги от начала до конца очень важно, потому что это заставляет вас анализировать информацию, размышлять о различных последствиях, погружаться в мир , думать о том, как все могло бы быть или как все могло бы сложиться.

Вы не сможете сделать всё это, если просто, скажем, выполните поиск, запрос, или, что ещё важнее, когда у вас будет готовое резюме или информация, вы потеряете все остальные возможности .  Поэтому это несколько опасно.

• Однако мы видим, что все больше людей обращаются к искусственному интеллекту, например, по вопросам здоровья, вместо того чтобы сначала проконсультироваться с врачом, специалистом. Насколько это может быть опасно и где должен закончиться уровень доверия людей к искусственному интеллекту?

Послушайте, сейчас  совершенно неправильно и даже очень опасно обращаться за медицинской помощью к приложению с искусственным интеллектом.  Конечно, всегда можно получить общую информацию, но когда дело касается конкретных вопросов, лучше обратиться к экспертам.

Конечно, с другой стороны, следует отметить, что если развитие искусственного интеллекта в области медицины будет быстрым и относительно быстрым,  в будущем он может давать нам более точные рекомендации, чем люди.  Разумеется, я не имею в виду те приложения, которые мы имеем сегодня и используем каждый день. Я говорю о  специальных приложениях , которые будут фильтровать и интегрировать медицинские знания и будут специально разработаны для этой области.

И, честно говоря, я лично считаю само собой разумеющимся, что это произойдет.

Но в настоящий момент  совершенно неправильно просто просить машину ответить на медицинский вопрос.

• Давайте немного поговорим о том, как научное сообщество среди вас использует термин «вероятность катастрофы» (P-doom), то есть вероятность того, что развитие искусственного интеллекта вообще приведет к серьезной угрозе человечеству.  Илон Маск говорит о вероятности от 10 до 20%, в то время как Джеффри Хинтон, духовный отец искусственного интеллекта, лауреат Нобелевской премии, который ушел из Google, чтобы иметь возможность свободно осуществлять свое право критиковать разработки в области ИИ, высоко оценил риск.

Хочу сразу сказать, что меня совершенно не интересует, какова вероятность того, что это произойдет, по мнению Илона Маска... Меня больше интересует Хинтон, и мне даже посчастливилось учиться у него в аспирантуре Университета Торонто.

Хинтон, как вы и сказали, — один из тех, кто разработал современные нейронные сети и изобрел современные алгоритмы для их работы — отсюда и прозвище «крестный отец» искусственного интеллекта. Кстати, когда он это сделал, люди не поверили.

Иными словами  , все, даже мой тогдашний научный руководитель в Торонто, считали, что нейронные сети — это безнадежное дело.

•  Речь идёт о каком-то периоде времени? 

20 лет назад. И даже по этому поводу велись большие дебаты. Но да, именно Хинтон разработал искусственный интеллект. Как и большинство, я бы сказал, ведущих ученых в области искусственного интеллекта, например, Рассел, Бенджио, все удостоенные различных наград, от Нобелевской премии до премии Тьюринга, которые  понимают, что существует опасность.

Хинтон и другие считают, что созданный нами искусственный интеллект уже обладает своего рода сознанием. Это большой вопрос, волнует нас это или нет.

Я полагаю, мы говорим о риске вымирания, то есть о том, что человеческий вид может быть обречен на вымирание в результате решений искусственного интеллекта.

Это может произойти только потому, что ИИ не поймет, чего именно мы хотим. Потому что зачастую мы сами не знаем, чего хотим.

И если мы описали цель, но не приняли соответствующих мер контроля, то для достижения этой цели, например, снижения глобальной температуры на 5 градусов, искусственный интеллект может совершить действия, которые нам бы не хотелось. Например, сбросить ядерное оружие и убить миллионы людей.

Поэтому кое-что может пойти… не так.

В науке и технике сейчас очень важно учитывать такую ​​возможность (возникновения неполадок).

Если вероятность высока, но последствия незначительны, то проблем нет.

Но если последствия очень серьезны, даже если вероятность невелика, то возникает проблема . Поэтому 10% — это огромная цифра .

Поэтому к этому нужно отнестись серьезно, и именно поэтому мы пытаемся, и в последние годы прилагаем значительные усилия, сделать искусственный интеллект этичным и, прежде всего, безопасным.

Что, будучи безопасным, в некоторой степени подразумевает и этичность такого подхода.

Или, как говорит другой выдающийся современный исследователь, нам даже не нужно говорить о  безопасном и этичном искусственном интеллекте.  Это должно быть само собой разумеющимся.

Иными словами, если вы хотите создать искусственный интеллект, вы должны сделать его одновременно безопасным и этичным.

• Если бы вы увидели, как ваш ребенок проводит много часов за компьютером и ежедневно использует инструменты искусственного интеллекта, стали бы вы устанавливать ограничения? И еще, хотели бы вы, чтобы ваш ребенок сначала научился думать и искать информацию самостоятельно, а затем уже использовать ИИ, или вы считаете, что он должен научиться сотрудничать с ним с раннего возраста?

Когда появилась первая модель искусственного интеллекта, я дал ей задание рассказать моему ребенку сказку.

И тут я очень быстро понял, что ребёнку показалось совершенно логичным, что компьютер рассказывает ему сказки или что он может попросить его придумать другую сказку. И тогда я сказал: «Нет, я этого делать не буду».

Потому что , я думаю, это то, что родители , в первую очередь,  захотят сделать .

Безусловно, детям необходимо приобретать навыки с раннего возраста, но мы должны устанавливать для них границы, потому что им полезно  научиться думать  и развить весь свой потенциал.

Возможно, вы слышали, что в последние годы в некоторых крупных европейских странах, таких как Швеция и др., наблюдается тенденция к возвращению к школьному обучению, в котором больше используются бумага и карандаш.

Потому что они увидели, что повсеместное использование экранов и компьютеров, устройств, лишает детей возможности мыслить в полной мере и развивать свои различные способности, иными словами, снижает их когнитивные способности и развитие.

Поэтому нам определенно нужно  установить границы.

Несколько лет назад я говорил, что, по моему мнению, в будущем в элитных школах, скажем, в Англии (только подумайте), мобильные телефоны будут запрещены.

А совсем недавно  я узнала, что в одной крупной школе детям полностью запретили пользоваться мобильными телефонами.

Я не знаю, можно ли сказать, что ответ — «запретить всё», но нам определённо нужно установить ограничения.

• Поскольку мы обращаемся к искусственному интеллекту для выполнения любой задачи или получения информации и уверены в полученных ответах, которые будут постоянно совершенствоваться в будущем, возникает вопрос: как ИИ будет определять наше восприятие реальности в будущем и какие последствия это будет иметь?

Действительно, прогнозируется, что через несколько лет очень небольшая часть, 90-95% информации, которая будет существовать во всемирной паутине, будет представлять собой контент, созданный искусственным интеллектом.

Уже сейчас можно увидеть множество видео и изображений, которые очень часто создаются искусственным интеллектом. Вчера я тоже случайно увидел нечто, что мне показалось человеческим, но в итоге оказалось не так. Границы становятся очень размытыми. Так что правда в том, что  реальность теперь будет очень размытой.

Конечно, нет необходимости поступать именно так, если бы мы установили централизованные правила и попытались регулировать ситуацию. Например, в последние годы в университетах возникла большая проблема, связанная с кражей данных с использованием вычислительных моделей, моделей искусственного интеллекта.  Искусственный интеллект создает задания для студентов, отвечает на их экзаменационные вопросы и так далее.

Возможно, есть простое решение: обязать все крупные компании наносить водяные знаки на ответы на различные вопросы и бесплатно предоставлять университетам, школам и всем нуждающимся  программное или аппаратное обеспечение, позволяющее определять, использовался ли искусственный интеллект . Это решило бы проблему.

Но необходимо также централизованное регулирование, чтобы мы наконец могли с уверенностью определить, что является человеческим, а что создано искусственным интеллектом.

Я считаю, что это очень важно, потому что  наши дети действительно будут жить в мире, где весь контент будет фильтроваться искусственным интеллектом.

Центры обработки данных и энергетика

• Глобальный инвестиционный ажиотаж вокруг ИИ приводит к строительству огромных центров обработки данных, которые потребляют колоссальное количество электроэнергии и воды. Имеет ли искусственный интеллект серьезные экологические издержки, которые мы еще не учли? И может ли потребление энергии ИИ создать новые проблемы для общества?

Сегодня мы все говорим об искусственном интеллекте, и это переводит дискуссию на целый ряд интересных тем, но заставляет нас оставить в стороне самый важный вопрос, который мы должны задавать себе каждый день на всех уровнях: изменение климата и климатический кризис.

В 2026 году рассматривать воздействие на окружающую среду как нечто «случайное» несколько немыслимо. Поэтому мы не можем просто сказать: «Мы будем строить центры обработки данных». Да, строить центры обработки данных. Сказать: «Мы будем строить заводы по производству ИИ». Да, строить заводы по производству ИИ. Но мы не должны принимать такие решения, не учитывая экологические издержки.

Поэтому все эти факторы нужно взвешивать очень тщательно. Я слышу, скажем так, довольно странные вещи о центрах обработки данных на Крите.

• В данный момент у нас на Крите нет подобного заведения, верно? Однако, по сообщениям, есть планы открыть его в Ханье...

У нас на Крите этого нет. Но я учёный... и я думаю, нам нужно всё это замерить. Но у меня такое ощущение, что здесь летом нет питьевой воды, будем ли мы строить центры обработки данных, которым потребуется огромное количество воды, причём максимально чистой, для охлаждения компьютеров?

zarpanews.gr