Почему машины никогда не смогут думать

Впервые переведенная речь нейробиолога Майкла Эгнора 11 июля 2018г на открытии Центра Уолтера Бредли Естественного и Искусственного Интеллекта.

Краеугольный камень разработки искусственного интеллекта (ИИ) — это распространенное убеждение, что машины могут или будут думать. Любой, кто умеет играть в шахматы испытывал унизительное поражение от компьютерной программы по игре в шахматы. Означает ли это, что компьютеры могут думать так же как люди или даже лучше? Вовсе нет. Компьютеры никоим образом не «умны». Машины просто не способны мыслить.

Утверждение о том, что, вычисление — это мышление, а значит мышление — это вычисление, называется компьютерным функционализмом. Это теория о том, что человеческий разум в отношении мозга является тем же, что и програмное обеспечение в отношении «железа» (оборудование). Разум — это то, что производит мозг; мозг управляет разумом так же, как и компьютер управляет программой. Однако, тщательное изучение естественного интеллекта (человеческий разум) и ИИ (вычисление) указывает на то, что это неправильное представление.

В чем особенность человеческого мышления и что отличает мышление от материальных вещей? Франц Брентано (1838-1917), немецкий философ XIXв дал однозначный ответ на этот вопрос. Все мысли «о чем-то» (about something), в то время, как никакие материальные объекты , в своей основе, не бывают «о чем-то». Это свойство быть «о чем-то» называется интенциональность и является отличительным признаком разума. Каждая мысль, которой мы делимся имеет свойство «быть о чем-то» — я думаю об отпуске или о политике или о моей семье. Но ни один материальный объект, в своей основе, не является «о чем-то». Гора или ручка не содержат свойство «быть о чем-то». Только разум имеет интенциональность.

Другое определение интенциональности — это смысл (значение). Все мысли, по своему существу, что-то означают. Мысль без значения или без смысла — это оксюморон. Значение может быть простым или запутанным, но каждая мысль несет в себе какого-то рода смысл. Каждая мысль является о чем-то и это что-то несет в себе значение мысли.

Отличительная черта человеческой мысли — это значение и смысл, а отличительная черта вычисления — это безразличие к смыслу. Это то, что делает мысль таким поразительным феноменом и что делает вычисление столь полезным. Вы можете думать о чем угодно и можете использовать тот же самый компьютер для выражения всего разнообразия мыслей, потому как вычисление слепо в отношении смысла.

Вычисление — это алгоритмический процесс. Это соответствие входного сигнала (input) с сигналом на выходе (output) в соответствии с заданным алгоритмом. Вычисление не зависит от физического субстанции, на котором оно происходит. Вычисление может происходить на силиконе, меди или протоплазме.

В то же время, вычисление не зависит от семантического содержания. Например, вы можете ввести предложение, содержащее утверждение «брокколи имеют прекрасный вкус» на вашем компьютере, используя компьютер и программу, обрабатывающую текст. Вы так же можете напечатать утверждение «брокколи — не вкусные» на том же компьютере и программе. Вычисление идентичное. Совершенно одинаковое аппаратное обеспечение (железо) и программа используется для ввода двух утверждений, имеющие противоположный смысл. Вы можете сфотографировать яркий солнечный день и темную ночь одной и той же цифровой камерой. Ваши программа, обрабатывающая текст и камера незрячи в определении значения. Единственный смысл в вычислении — это значение введенного содержания и извлеченного из него, произведенного человеческим разумом. Вам не нужен другой компьютер или программа для написания статей, имеющих разное значение или для запечатления разных пейзажей. Вычисление безразлично к значению.

В своей сути, мышление — это не вычисление. Мышление — это противоположность вычисления. Мышление — это как раз то, что не является вычислением. Мысль — это намерение, вычисление — нет.

Читатель может возразить, что итог вычисления несет смысл. Всё-таки, статья была напечатана на компьютере. Да, но все значения в вычислении введены человеческим разумом. Вычисление символизирует мышление не в большей мере, чем ручка и бумага символизируют мышление. Вычисление не производит мысли и не генерирует их. Вычисление может искажать мысли, обнаруживать их, скрывать в той же мере, что и ручка и бумага. И в этом проблема нашего понимания того, как работает ИИ и какое воздействие он будет на нас оказывать.

Полагать, что машины могут думать или что человеческая мысль — это вид вычисления является глубокой ошибкой. Машины, например, никогда не станут враждебными к людям. С враждебностью могут действовать люди, используя машины во вред другим людям. Враждебность или беспечность исходит от людей, не от машин.

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *

Этот сайт использует Akismet для борьбы со спамом. Узнайте как обрабатываются ваши данные комментариев.