Почему машины никогда не смогут думать

Выступление нейробиолога Майкла Эгнора на открытии Центра Естественного и Искусственного Интеллекта Уолтера Брэдли 11 июля 2018 г.

Франц Брентано

Краеугольным камнем концепции искусственного интеллекта (ИИ) является распространенное убеждение, что машины способны или когда-то научатся думать. Робот Ватсон побеждает лучших игроков американской телевикторины «Своя игра», а всем любителям шахмат знакомо чувство унижения, когда они проигрывают компьютерной программе (я проигрываю даже самым элементарным уровням шахматной программы на моем iPhone). Означает ли это, что компьютеры могут думать так же, как люди, или даже лучше? Вовсе нет. Компьютеры никоим образом не «умны». Машины совершенно не способны мыслить.

Утверждение о том, что, вычисление — это мышление, а значит мышление — это вычисление, называется компьютерным функционализмом. Это теория о том, что человеческий разум по отношению к мозгу является тем же, что и программное обеспечение по отношению к «железу» (компьютерному оборудованию). Разум — это то, что производит мозг; мозг «запускает» разум так же, как компьютер запускает выполнение программы. Однако, тщательное изучение естественного интеллекта (человеческого разума) и ИИ (вычислений) указывает на то, что это неправильное представление.

В чем особенность человеческого мышления, и что отличает мысли от материальных вещей? Франц Брентано (1838-1917), немецкий философ XIX в. дал однозначный ответ на этот вопрос. Все мысли — «о чем-то» (about something), в то время, как никакие материальные объекты в своей основе не бывают «о чем-то». Это свойство быть «о чем-то» называется интенциональность и является отличительным признаком разума. Каждая мысль, которая у меня есть, имеет свойство «быть о чем-то» — я думаю об отпуске, или о политике, или о своей семье. Но ни один материальный объект в своей основе не является «о чем-то». Гора или ручка не содержат свойство «быть о чем-то». Только разум имеет интенциональность.

Другое определение интенциональности — это смысл (значение). Все мысли по своему существу что-то означают. Мысль без значения или без смысла — это оксюморон. Значение может быть тривиальным или запутанным, но каждая мысль подразумевает какой-либо смысл. Каждая мысль является «о чем-то» и это что-то несет в себе значение мысли.

Майкл Эгнор
Майкл Эгнор

Отличительная черта человеческой мысли — это значение и смысл, а отличительная черта вычислений — это безразличие к смыслу. Это то, что делает мысль таким поразительным феноменом, и что делает вычисления столь полезными. Вы можете думать о чем угодно и можете воспользоваться тем же компьютером для выражения всего спектра своих мыслей, поскольку вычисления слепы по отношению к смыслу.

Вычисление — это алгоритмический процесс. Это согласование входного сигнала с выходным сигналом посредством алгоритма. Вычисления в этом смысле не зависят от физического субстрата, на котором они производятся. Вычисления могут выполняться на кремнии, меди или протоплазме.

Кроме того, вычисления не зависят от семантического наполнения. Например, вы можете напечатать предложение, содержащее утверждение «брокколи имеют прекрасный вкус», используя компьютер и программу редактирования текста. Вы также можете напечатать утверждение «брокколи — невкусные» на том же компьютере и в той же программе. Вычисления идентичные. Совершенно одинаковые аппаратная и программная составляющие используются для вывода утверждений, имеющих противоположный смысл. Вы можете запечатлеть яркий солнечный день и темную ночь одной и той же цифровой камерой. Ваш текстовый процессор и ваша камера слепы в отношении смысла. Все значения и смыслы, содержащиеся в вычислениях, закладываются внутрь и извлекаются обратно с помощью человеческого разума. Вам не нужно менять компьютер или программу на другие для того, чтобы написать другое письмо или обработать другую картинку. Вычисления равнодушны к смыслу.

Мысль — это не просто вычисления. Мысль это полная противоположность вычислений. Мысль — это именно то, чем вычисления не являются. Мысль интенциональна (направлена на что-то, имеет смысл). Вычисления не являются интенциональными (замкнуты на себя).

Здесь читатель может возразить, что итог вычислений всё же несет в себе смысл. В конце концов, письмо напечатано на компьютере. Да, но все смыслы в вычисления были заложены человеческим разумом. Вычисления представляют мысль так же, как ручка и бумага используются для представления мысли; но вычисления не порождают мысль и не могут порождать мысль. Вычисления могут, разумеется, исказить мысль, выявить мысль, скрыть мысль и т.д., точно так же, как это делают ручка и бумага. В этом и состоит вызов — понять, как работает искусственный интеллект и как он на нас повлияет.

Но верить в то, что машины могут думать, или что человеческое мышление — это своего рода вычисление, является грубой ошибкой. Это фундаментальное заблуждение уведет нас от понимания сути ИИ, а не приведет к нему. Машины, например, никогда не станут враждебными к людям. С враждебностью могут действовать люди, используя машины во вред другим людям. Люди могут использовать автомобили злонамеренно или неосторожно и, таким образом, могут навредить другим. Но злонамеренность и безответственность исходят от людей, а не от машин.

intelligentdesign.space
Центр Естественного и Искусственного Интеллекта Уолтера Брэдли

Добавить комментарий

Войти с помощью: 

Ваш e-mail не будет опубликован. Обязательные поля помечены *