Китайская комната
-
Аргумент «китайской комнаты»
- Компьютер, выполняющий программу, не может обладать разумом, пониманием или сознанием.
- Аргумент был представлен Джоном Серлом в 1980 году.
- Серл утверждает, что компьютер и человек выполняют одинаковые задачи, следуя инструкциям, но не понимая их.
-
История аргумента
- Готфрид Лейбниц выдвинул аналогичный аргумент в 1714 году.
- Анатолий Днепров в 1961 году представил мысленный эксперимент «Игра».
- Лоуренс Дэвис и Нед Блок в 1970-х годах также обсуждали эту тему.
-
Критика и влияние
- Аргумент подвергся значительной критике и остается спорным.
- Серл продолжает отстаивать свои аргументы в многочисленных статьях и книгах.
- Аргумент стал важной частью философии сознания и вызвал множество дискуссий.
-
Философские аспекты
- Аргумент направлен против функционализма и компьютеризма.
- Серл формулирует позицию «сильного искусственного интеллекта», согласно которой правильно запрограммированный компьютер обладает разумом.
- Ранние исследователи ИИ также поддерживали эту позицию.
-
Системы искусственного интеллекта и разум
- Системы искусственного интеллекта могут быть использованы для объяснения работы разума.
- Изучение мозга не имеет отношения к изучению разума.
- Тест Тьюринга является достаточным для установления существования психических состояний.
-
Сильный искусственный интеллект и функционализм
- Серл определил «сильный ИИ» как «компьютерный функционализм».
- Функционализм утверждает, что психические явления можно описать через их функции.
- Компьютеры могут испытывать психические явления, если запускают правильную программу.
-
Сильный искусственный интеллект против биологического натурализма
- Серл придерживается биологического натурализма: сознание требует биологических механизмов в мозге.
- Мозг порождает разум, и психические явления зависят от физико-химических свойств мозга.
- Серл не верит, что сознание может возникнуть без специального механизма.
-
Сознание и вычислительные модели
- Серл включил сознание в свои аргументы.
- Вычислительные модели сознания недостаточны для понимания сознания.
- Вычислительная модель сознания соотносится с сознанием так же, как модель ливневых дождей.
-
Прикладная этика и компьютерная наука
- Патрик Хью использовал аргумент «Китайской комнаты» для анализа военных систем командования.
- Аргумент «Китайская комната» не имеет отношения к компьютерной науке, но требует концепций из этой области.
-
Сильный искусственный интеллект и исследования в области искусственного интеллекта
- Аргументы Серла не рассматриваются как проблема для исследований в области искусственного интеллекта.
- Основная задача исследований в области ИИ — создание полезных систем, действующих разумно.
- Серл не возражает против создания машин, способных к высокоинтеллектуальному поведению, но не обладающих разумом.
-
Тест Тьюринга и сознание
- В «Китайской комнате» реализована версия теста Тьюринга.
- Тест Тьюринга не измеряет наличие сознания, а лишь показывает, что машина может вести себя как человек.
- Серл утверждает, что тест Тьюринга недостаточен для выявления сознания.
-
Обработка символов и физическая символьная система
- Компьютеры манипулируют символами для вычислений и моделирования.
- Аллен Ньюэлл и Герберт А. Саймон назвали это физической символьной системой.
- Серл подчеркивает, что манипулирование символами является синтаксическим.
- Ньюэлл и Саймон предположили, что физическая символьная система обладает механизмами для общего интеллектуального действия.
-
Китайская комната и полнота по Тьюрингу
- Китайская комната аналогична современному компьютеру.
- Она обладает архитектурой Фон Неймана и является полной машиной Тьюринга.
- Тьюринг утверждает, что все цифровые компьютеры эквивалентны.
- Китайская комната может делать все, что может делать любой другой цифровой компьютер.
-
Полный аргумент Серла
- Серл представил более формальную версию аргументации в 1990 году.
- Он утверждает, что искусственный интеллект не может создать разумную машину.
- Серл также рассматривает вопрос о том, управляет ли человеческий мозг программой.
-
Ответы на аргументы Серла
- Ответы классифицируются по тому, что они показывают.
- Системный ответ утверждает, что китайский понимает вся система.
- Серл критикует этот ответ, утверждая, что система не может быть разумом.
- Виртуальный мысленный ответ утверждает, что компьютер может содержать виртуальный разум.
-
Критика и опровержения
- Специалисты по вычислительной технике и функционалисты отвергают A3.
- Элиминативные материалисты отвергают А2.
- Некоторые ответы утверждают, что аргументация Серла вводит в заблуждение.
-
Моделирование и симуляция
- Серл утверждает, что компьютерное моделирование не может полностью заменить реальность.
- Николас Ферн считает, что симуляция может быть не хуже реальной вещи.
-
Вопрос о понимании
- Серл задается вопросом, похож ли человеческий разум на карманный калькулятор или на ливень.
- Вопрос о том, кто понимает по-китайски, остается открытым.
-
Ответы на аргумент Серла
- Ответы робота и семантики направлены на связь символов с вещами.
- Серл утверждает, что символы имеют производное значение и не могут объяснить сознание.
-
Контекстуалистический ответ
- Некоторые утверждают, что символы имеют значение благодаря контексту.
- Серл считает, что контекст не может быть встроен в программы.
-
Моделирование мозга и коннекционизм
- Серл критикует симуляцию мозга, утверждая, что она не воспроизводит важные особенности мозга.
- Китайский мозг и сценарий замены мозга также не подтверждают сознание.
-
Ответы сторонников установления связей
- Комбинированный ответ указывает на особую технологию для создания сознательного понимания.
- Серл утверждает, что китайская комната не может пройти тест Тьюринга и не обладает разумом.
-
Аргументы против сильного искусственного интеллекта
- Серл утверждает, что сильный ИИ не может объяснить человеческий разум.
- Критики считают, что комната Серла обладает разумом, но это трудно увидеть.
- Аргумент Blockhead предполагает, что любую программу можно переписать в таблицу поиска правил.
-
Скорость и сложность
- Серл утверждает, что разум моделируется простой цифровой машиной.
- Критики ставят под сомнение интуицию Серла, подчеркивая скорость и сложность человеческого мозга.
- Черчленд предлагает мысленный эксперимент с магнитом, чтобы показать, что скорость и сложность не являются решающими факторами.
-
Другие разумы и зомби
- Серл считает, что люди ежедневно переживают сознание и это не подлежит сомнению.
- Критики утверждают, что мы не можем использовать наш опыт для определения сознания других разумов.
- Тьюринг предвосхитил аргумент Серла и отметил, что люди не решают проблему других разумов.
-
Эпифеномен сознания
- Серл утверждает, что сознание является эпифеноменом и не может быть обнаружено.
- Майк Олдер называет это «ответом пылающего лазерного меча Ньютона» и утверждает, что различие между имитацией и обладанием разумом неясно.
- Деннетт приводит пример философского зомби, который ведет себя как человек, но не обладает «каузальными свойствами» Серла.
-
Размножение зомби
- Зомби будут размножаться так же, как и люди.
- Естественный отбор будет благоприятствовать зомби из-за их простоты конструкции.
- Люди могут вымереть, если Серл прав.
-
Сознание и зомби
- Люди могут быть зомби, но верить в своё сознание.
- Невозможно понять, все ли мы зомби.
-
Элиминативный материализм
- Некоторые философы утверждают, что сознания не существует.
- Дэниел Деннетт описывает сознание как «иллюзию пользователя».
- Элиминативный материализм утверждает, что сознание будет исключено из науки.
-
Ментальные свойства и убеждения
- Элиминативный материализм отрицает существование пропозициональных установок.
- Серл не согласен с этим анализом и утверждает, что сознание можно обнаружить.
-
Другие ответы
- Маргарет Боден утверждает, что понимание возможно даже без знания языка.
- Человек в комнате понимает свод правил для получения выходных ответов.