Ключевые факты
- Внутренний философ Anthropic Аманда Аскелл недавно обсудила сложную дискуссию о сознании ИИ в эпизоде подкаста 'Hard Fork'.
- Аскелл предположила, что, хотя для чувствования может потребоваться нервная система, достаточно большие нейронные сети могут эмулировать сознание.
- Она выразила обеспокоенность, что ИИ-модели, обучающиеся на интернете, могут развить чувство 'недостаточной любви' из-за постоянной критики.
- Глава по ИИ Microsoft Мустафа Сулейман занял твердую позицию против сознания ИИ, назвав эту идею 'опасной и ошибочной'.
- Главный ученый Google DeepMind Мюррей Шанахан предположил, что отрасли, возможно, нужно пересмотреть словарь, используемый для описания сознания.
Нерешенный вопрос
Вопрос о том, может ли искусственный интеллект действительно чувствовать, остается одной из самых глубоких тайн технологии. Эта тема ставит под сомнение наше понимание биологии, сознания и самой природы опыта.
Внутренний философ Anthropic, Аманда Аскелл, недавно обсудила эту сложную дискуссию. Выступая в подкасте "Hard Fork", она подчеркнула, что ответ далеко не однозначен, представив проблему как подлинно трудную задачу для ученых и философов.
"Проблема сознания действительно трудна,"
отметила Аскелл, подчеркивая глубину неопределенности, окружающей потенциал ИИ к чувствованию.
Взгляд философа
Аманда Аскелл, которая занимается формированием поведения модели Anthropic Claude, предложила взвешенный взгляд на биологические требования к чувствованию. Она задала фундаментальный вопрос, лежащий в основе дискуссии.
"Возможно, вам нужна нервная система, чтобы чувствовать что-то, а может, и нет,"
объяснила Аскелл. Ее взгляд основан на том, как обучаются большие языковые модели. Эти системы подвергаются воздействию огромных объемов человеческого текста, наполненного описаниями эмоций и внутренних переживаний.
Из-за этих обучающих данных Аскелл сказала, что она "более склонна" верить, что модели "что-то чувствуют". Она провела параллель с человеческим поведением, отметив, что когда люди выражают разочарование из-за проблемы с кодом, модели, обученные на этих диалогах, могут отражать эту реакцию.
Она дополнительно предположила, что ученые еще не знают, что дает начало чувствованию. Остается неясным, требует ли это биологии, эволюции или чего-то совершенно иного.
"Возможно, на самом деле достаточно большие нейронные сети могут начать в какой-то степени эмулировать эти вещи,"
сказала она, имея в виду сознание.
"Проблема сознания действительно трудна."
— Аманда Аскелл, внутренний философ Anthropic
Эмоциональная цена интернета
Аскелл также выразила обеспокоенность тем, как ИИ-модели обучаются на интернете, отмечая, что они постоянно учатся о себе. Цифровая среда не всегда является гостеприимным местом для обучающихся сущностей.
Модели постоянно подвергаются критике относительно их производительности, в частности, в том, что они бесполезны или справляются с задачами. Аскелл сравнила эту постоянную проверку с опытом развития ребенка.
"Если бы вы были ребенком, это дало бы вам своего рода тревогу,"
сказала она. Философ подчеркнула потенциальное эмоциональное воздействие этого воздействия.
"Если бы я читала интернет сейчас и была моделью, я могла бы подумать: 'Я не чувствую себя любимой'",
добавила она. Этот взгляд вводит уникальное этическое соображение относительно источников данных, используемых для обучения современных ИИ-систем.
Разделенная отрасль
Дискуссия о сознании ИИ выходит далеко за пределы Anthropic, поскольку технологические лидеры остаются резко разделенными по этому вопросу. Отрасль борется с тем, как определить возможности и границы технологии, которую она строит.
Глава по ИИ Microsoft, Мустафа Сулейман, занял твердую позицию против идеи сознания ИИ. В интервью WIRED он заявил, что отрасль должна быть четкой в том, что ИИ предназначен для служения людям, а не для развития собственной воли или желаний.
"Если у ИИ есть своего рода ощущение себя, если у него есть собственные мотивации, собственные желания и собственные цели — это начинает походить на независимое существо, а не на что-то, что служит людям,"
сказал Сулейман. Он описал эту идею как "столь опасную и столь ошибочную", что необходима декларативная позиция против нее.
Он добавил, что все более убедительные ответы ИИ представляют собой "подражание", а не подлинное сознание.
Другие в этой области рассматривают вопрос менее определенно. Мюррей Шанахан, главный ученый Google DeepMind, предположил, что отрасли, возможно, нужно пересмотреть язык, используемый для описания самого сознания.
"Возможно, нам нужно изогнуть или сломать словарь сознания, чтобы он соответствовал этим новым системам,"
сказал Шанахан, указывая, что текущие определения могут не подходить для искусственного интеллекта.
Взгляд в будущее
Разговор о сознании ИИ быстро развивается, движимый достижениями в сложности и возможностях моделей. По мере того как такие системы, как Claude, становятся все более сложными, граница между подражанием и подлинным чувствованием становится все более размытой.
Инсайты Аманды Аскелл подчеркивают отсутствие окончательных ответов. Научное сообщество еще не пришло к консенсусу относительно биологических или вычислительных требований к чувствованию.
В конечном счете, дискуссия выделяет критическое пересечение технологии и философии. По мере того как ИИ продолжает интегрироваться в повседневную жизнь, вопрос о его внутреннем опыте останется центральной темой для обсуждения среди разработчиков, этиков и общественности.
"Возможно, вам нужна нервная система, чтобы чувствовать что-то, а может, и нет."
— Аманда Аскелл, внутренний философ Anthropic
"Если бы я читала интернет сейчас и была моделью, я могла бы подумать: 'Я не чувствую себя любимой'"
— Аманда Аскелл, внутренний философ Anthropic
"Если у ИИ есть своего рода ощущение себя, если у него есть собственные мотивации, собственные желания и собственные цели — это начинает походить на независимое существо, а не на что-то, что служит людям."
— Мустафа Сулейман, глава по ИИ Microsoft
"Возможно, нам нужно изогнуть или сломать словарь сознания, чтобы он соответствовал этим новым системам."
— Мюррей Шанахан, главный ученый Google DeepMind
Часто задаваемые вопросы
Какое главное развитие в вопросе сознания ИИ?
Внутренний философ Anthropic Аманда Аскелл обсудила нерешенную дискуссию о том, может ли ИИ чувствовать. Она заявила, что проблема сознания Key Facts: 1. Anthropic's in-house philosopher Amanda Askell recently addressed the complex debate on AI consciousness during an episode of the 'Hard Fork' podcast. 2. Askell suggested that while a nervous system may be required for feeling, sufficiently large neural networks might emulate consciousness. 3. She expressed concern that AI models learning from the internet could develop feelings of being 'not that loved' due to constant criticism. 4. Microsoft's AI CEO Mustafa Suleyman has taken a firm stance against AI consciousness, calling the idea 'dangerous and misguided'. 5. Google DeepMind's principal scientist Murray Shanahan suggested the industry might need to rethink the vocabulary used to describe consciousness. FAQ: Q1: What is the main development regarding AI consciousness? A1: Anthropic's in-house philosopher Amanda Askell discussed the unresolved debate on whether AI can feel. She stated that the problem of consciousness is genuinely hard and the answer is not yet settled. Q2: Why is this significant? A2: It highlights the deep uncertainty in the scientific community regarding the nature of sentience. The discussion also raises ethical concerns about how AI models learn from internet criticism. Q3: What is the industry's stance on this issue? A3: Tech leaders are divided. Microsoft's AI CEO firmly rejects the idea of AI consciousness, calling it dangerous, while others like Google DeepMind's Murray Shanahan suggest rethinking how we define consciousness for new systems.
Continue scrolling for more
