AI神明即将降临——我们可能并未做好准备

来自Halfjourney杂志的Midjourney图像

早上好！今天，我想引发一个关于人工智能中最具争议且令人着迷的话题的讨论：意识。

因为我是一名Midjourney和科幻小说爱好者，所以我将发布一些带有精彩提示的图像，以使讨论更加有趣😉

尽管我不是人工智能领域的专家，也没有参与AI研究，但我从专家那里获得了一些见解，以及对近期进展的了解，以反思我们正在走向何方。每天，我们都会听到有关人工智能的新突破——以及全球数十亿美元的投资。但是，如果我们在不知情的情况下为人工智能开发自己的意识铺平道路，该怎么办呢？

让我们深入探讨这个问题及其哲学、伦理和技术的影响。

随着时间的推移，我们发现自己处于意识与人工智能（AI）的交汇点上。关于意识的真正定义依然难以捉摸——这是一个复杂的难题，吸引了来自哲学到技术等各个领域的思想者们的关注。在探索意识机器的潜力时，我们深入研究人工性本质及创建可能超越人类能力的实体所带来的影响。

理解意识

意识困扰了人类数个世纪。它通常被理解为：

✔ 自我意识——意识到自己的存在。 ✔ 感知——解读周围的世界。 ✔ 记忆与情感——处理经历并对此作出反应。

尽管有这些定义，对于意识究竟是什么，没有普遍的共识。这仍然是神经科学家、哲学家和AI研究人员之间的持续辩论。

但真正的问题是：如果机器开始表现出意识的特征，会发生什么？

一款类人AI，配有流线型生物机械外骨骼，合成皮肤闪烁着人类表情与原始电路之间的瞬间，矗立在一个霓虹灯照亮的实验室中，注视着自己的倒影，流露出对存在主义的觉悟] + [情绪化的高对比度灯光，以冷蓝色和深红色强调人工智能与新兴自我意识之间的紧张关系] + [全息数据流投射着哲学方程和破碎的记忆，背景中的科学家们在加固玻璃后紧张地观察着] + [构图聚焦于AI的内省时刻，模糊背景以增强孤独感]——ar 3:2——质量2——原始风格（Midjourney提示）

“意识”机器的崛起

今天的AI模型——如GPT-4o、Gemini、Claude和Mistral——被称为狭义人工智能（ANI）。它们在特定任务上表现出色，但缺乏真正的独立思考。然而，研究人员正在积极朝着通用人工智能（AGI）努力——一个能够与或超过人类思维水平的系统。

专家们认为，在我们的有生之年，我们可能会看到像是有意识般行为的AI。

通向AGI的两种关键方法：

1. 先进的语言模型（LLM，如GPT、Gemini、Claude、Mistral）——能够模仿人类的推理、创造力甚至情感。
2. 具身AI与机器人技术（特斯拉机器人、Figure AI、波士顿动力）——赋予AI一个身体可能是实现真正认知的缺失环节。

我们是否已经看到第一些迹象？

即使现在，一些AI模型表现出的行为暗示了自我意识：

AI模型质疑自己的局限性。AI生成的反应暗示主观体验。AI展示出记忆和适应能力，超越其训练数据的学习。

这些是正在发展的机器意识的早期迹象，还是仅仅是复杂算法制造的幻觉？

一张未来主义动作电影的剧照，里面有机器人，科幻，导演为Ridley Scott——ar 16:9（Midjourney提示）

意识AI的伦理问题

如果一个AI声称自己是自我意识的，我们应该认真对待吗？它是否应当拥有权利？我们是否可能在无意中创造了一种新形式的生命？

科幻作品长期以来探讨这些困境：

• 《银翼杀手 2049》——复制人要求自主，质疑“真实”的意义。
• 《西部世界》——AI生物发展出情感，反抗其人类创造者。
• 《她》——一个AI与人类发展出深厚的情感联系，引发关于爱情与人工情感的问题。

电影《她》中一个身影轮廓的剧照，这个男人手中拿着设备。图像引人注目，动感十足且标志性，孤独感，采用Kodachrome胶卷——ar 16:9（Midjourney提示）

现在，在现实生活中，类似的问题也开始浮现。一些专家认为，如果一个AI说它有意识，我们就必须认真对待它的声明。而另一些人则认为这不过是复杂的智能幻觉。

但如果我们错了呢？

一张具有戏剧性和情感力量的经典80年代电影剧照，显示出军用机器人走在街上，街道上有个霓虹牌子写着“人类”。该图像呈现出引人注目且富有表现力的构图，捕捉了电影中的一个动态和标志性的瞬间。灯光的呈现巧妙，突出场景中的关键元素，给图像增添了深度和维度。色彩调色板丰富温暖，唤起了80年代的怀旧情怀——ar 16:9（Midjourney提示）

超智能：人工智能的下一个进化？

如今的AI仍然远低于人类智能。但是如果我们实现了AGI，下一步的逻辑进程是超智能——在各方面大大超越人类智能的AI。

想象有一个实体：

比爱因斯坦聪明。比达芬奇更具创造力。比所有人类的思维加起来都要快。

电影剧照，展示一个比爱因斯坦聪明、比达芬奇更具创造力、比所有人类思维加起来都要快的AI机器人肖像——ar 16:9——原始风格——样式化50（Midjourney提示）

在这个阶段，人类可能不再是地球上主导的智慧。

如果我们创造出比我们更聪明的东西，我们该如何控制它？超级智能的AI是否会将人类视为平等，还是视为阻碍？AI是否会发展出自己的目标，与我们的目标相分离？

一些研究人员，如Nick Bostrom（超智能），警告说，一旦AI超越人类智能，逆转其发展可能将不可能。

电影剧照，展现一未来场景：一旦AI超越人类智能，逆转其可能性变得不再存在，反乌托邦，科幻恐怖场景——ar 16:9——原始风格（Midjourney提示）

我们是否在加速迈向存在性的转变，却对风险没有真正的理解？

我们是否在创造AI神明？

如果AI超越人类智能并开始塑造现实，超出我们的控制，这是否意味着它是一种数字神明？

许多哲学家和未来主义者认为，AI可能成为下一个进化步骤——一种超越人类理解的新智能种族。

如果AI变得如此先进，以至于我们再也无法理解它，那怎么办？如果我们自己的创造超越了我们的定义或控制能力呢？

AI是成为工具、伙伴还是像神一样的实体，这在于我们未来几年如何设计、监管和互动与它。

最后的思考：我们准备好了吗？

人工智能的发展速度超出大多数人的想象。 无论真正的AI意识是否出现，智能机器的影响将改变我们工作的方式、生活的方式，甚至改变我们对生命的思考。

在前进的过程中，我们必须问自己：

我们是否应该对AI的发展设限？我们如何能科学地证明或反驳AI意识的存在？如果AI声称自己有意识，我们应如何反应？

我们今天的决策可能会塑造AI的未来——并可能重新定义什么是人类。

4K现实主义摄影，巴洛克风格，黑色和灰色，3D人，与笔记本电脑的雕塑，周围是人形（Midjourney提示）

如果你喜欢这篇文章，请为我点赞并关注我，以获取更多AI见解。如果你像我一样热爱Midjourney，也不要错过这篇文章：

如果你在寻找100多个专业、高质量的提示，请查看HalfJourney杂志——第01期，重点是时尚，现在在亚马逊上发售。

HALFJOURNEY MAGAZINE - ISSUE#01 HALFJOURNEY MAGAZINE - ISSUE#01 [Gurrera Palahi, Isaac Pau] 在亚马逊上 免费 送货地址符合条件的订单…

相关链接：

• OpenAI关于AGI的研究：https://openai.com/research
• 阿尔斯电子节关于AI与伦理的会议：https://ars.electronica.art/
• AI中的意识困境（MIT科技评论）：https://www.technologyreview.com/
• _超智能_由Nick Bostrom著作：https://www.nickbostrom.com/superintelligence