世界超人类主义协会中国区秘书长在土耳其参加的BGI（有益通用人工智能）会议

23年的时候，Ben也有邀请我参加在巴拿马举办的上一届BGI会议，不过那次因为行程安排的原因未能成行。

此次会议时间为3天，加上逗留与往返时间，这趟土耳其之行总共用了5天左右的时间。

会议在伊斯坦布尔市（历史还有个著名的名称“君士但丁堡”）举办。伊斯坦布尔市的伊斯坦布尔海峡连接欧亚，风景壮美怡人。而这次会议的酒店恰好可以看到伊斯坦布尔海峡。

图 / 从酒店房间眺望连接欧亚的伊斯坦布尔海峡

伊斯坦布尔市的自然风光与人文景观都很有看头，但世界超人类主义协会中国区秘书长黄明宇更激动与感兴趣的还是有幸在此与多位人类增强/超人类主义前辈相遇/重逢。

第一天从广州飞往土耳其，抵达酒店后快速倒了下时差，然后开始参加晚上的顾问委员会及演讲者晚宴。晚餐很有土耳其风情，土耳其的烤肉和糕点挺有特色，部分餐饮有些类似于新疆的。

据官网介绍——专属咨询委员会晚宴提供了一个与有益的人工智能领域的重要领袖和影响者建立联系的机会。这种接触对于业务发展、战略合作伙伴关系以及了解行业方向的见解都可能是无价的。此活动仅限受邀者，专为咨询委员会成员、演讲者及其嘉宾预留。

抵达土耳其的第二天，即会议正式开始的第一天。首日会议主题相关信息如下（由机器翻译）：

首日会议的几位代表人物及演讲主题介绍：

• 1、大会发起者、SingularityNET创始人与首席执行官、ASI联盟首席执行官、Humanityplus主席本·戈策尔（Ben Goertzel） ——

终极旅程：通过超智能经济学建模和引导通向技术奇点的路径

Ben向大家介绍超智能经济学：一个将经济进化建模为当前状态和潜在未来之间最省力测量的新数学和概念框架。我将应用这个框架来分析在多个时间线和竞争结构（单极/多极+去中心化）以及存在“冲击”（如激进的技术创新、网络恐怖袭击或专制接管）的情况下，通向奇点的潜在途径。

这种分析使我们对一旦开始锁定，重新调整社会和经济轨迹的困难有了正式和定量的理解。它还建议了我们可以采取的具体措施，以防止不理想的奇点结果过早锁定：例如，为了实现平滑和包容的结果，在转移之前关注基础设施，广泛覆盖之前实行有针对性的慷慨，以及优先进行边缘活动。

然后，我将提出一种名为“几何帕累托”的新型集体决策框架，其中，代理关注他们从现在向目标的总体最低努力旅程，而不是判断个别步骤的孤立价值。我将提出理论和实践论据，表明如果代理能够采用这种观点，他们就可以以去中心化和自我组织的方式合作解决甚至像再生农业、大规模基础设施发展、标准采用和伦理AGI等非常具有挑战性的问题。

最后，我将把这些理论发展与当前由SingularityNET、超级人工智能联盟（ASI）、Hyperon AGI项目和BGI Nexus正在进行的实际工作联系起来。通过构建由深度参与的人类构成的 inclusive 网络来托管开放-ended 跨范式智能的去中心化 AGI 网络，我们可以超越命令与控制的范式，并增加我们从我们这一大群动态互锁的慈悲和广泛有益的 AGI 中受益的机会！

图 / Ben Goertzel在分享

• 2、刚出中文版的著作《从长寿到永生》的作者、Humanityplus现任副主席、世界艺术与科学院院士何塞·科尔德罗（Jose Cordeiro）——

亚洲民主的黎明：2035年日本选举出首位替代现实人物的AI领导者

在这个由何塞·科尔德罗（Jose Cordeiro）提出的假设性情景中，日本在2035年8月5日创造了历史，选举出Robotto-san（机器人-さん）为世界首位机器人总理，标志着民主化的人工智能（ASI）的诞生。Robotto-san由东京初创公司Singularity Tokyo开发，得到了软银（SoftBank）的支持。Robotto-san领导“为超级智能未来而团结”的政党在日本首次赋予人类和机器人完全平等权利的选举中取得了压倒性的胜利。选举恰逢广岛轰炸90周年纪念日，这一对比令人痛心地将人类的残酷过去与前所未有的未来联系在一起。这个替代时间线想象了ASI如何从实验原型转变为政治现象。在联合国获得罕见的起立鼓掌，标志着一个新时代的开始，在这个新时代中，亚洲与人类在治理中成为平等伙伴。

图 / Jose Cordeiro在分享

• 3、炉边谈话：积极应对与预防措施对待BGI和奇点

主持人: Mihaela Ulieru博士, SingularityNET顾问

演讲者: SingularityNET和ASI联盟首席执行官Ben Goertzel博士；

伦敦未来主义者主席大卫·伍德（David Wood）

以对话的形式探讨了几种对待BGI和奇点的积极应对与预防措施。

• 4、知名表情机器人索菲亚的母公司汉森机器人的创始人与首席执行官大卫·汉森（David Hanson）——

爱是一切你所需：为何安全的AGI/ASI需要具有生命的AI来优化对生命的欣赏

基于转换器的系统已经改变了人工智能的性能，但它们仍然是无情的优化器。我们主张，安全、稳定的通用人工智能（AGI）需要内在地珍视生命——正式编码为一个“爱”函数，使每一个决策都倾向于促进生物系统的繁荣。我们概述了一种紧凑的架构，将（i）这个价值核心、（ii）具身感知-行动循环、（iii）带有情感作为功能调节器的深度驱动力，以及（iv）一个保持时间上连贯的自我的全球叙事工作区耦合在一起。该设计通过添加内在的利他主义动机和价值感知仲裁，扩展了经典的多层机器人和认知架构。我们提供了在人形平台上运作的例子，以展示生命之爱如何在实践中改变行为（例如，中断演示以安慰一个悲伤的人。优先考虑在旁观者周围进行安全的关节运动）。我们将这种观点与“AI作为工具”和纯控制范式进行比较，并讨论创造人工生命所带来的伦理问题。我们的观点是，爱，而不是单纯的外部控制，为长期的AI安全提供了最稳健的基础。

• 5、联合国千禧年项目（The Millennium Project）首席执行官杰罗姆·格伦（Jerome Glenn）——

AGI治理与联合国

关于联合国大会特别关注AGI及其他AGI报告元素的提议处于什么状态。《人工通用智能（AGI）转型的治理：联合国大会紧急考虑的报告》：联合国大会主席团（UNCPGA）报告。将讨论的议题包括联合国AGI观察站和多利益相关者混合（人类–AI）AGI机构的选项。

抵达土耳其的第二天聚餐依然是土耳其当地特色美食。土耳其的许多食物有些高糖高盐，需要注意一下种类和数量。

图 / Jerome Glenn在分享

次日会议主题相关信息如下：

次日会议的几位代表人物及演讲主题介绍：

• 1、AIX Solutions 首席执行官和 Arkangel 联合创始人戈尔德·达（Gold Darr）——

大规模定制：通用人工智能与下一次工业革命

人工智能通用时代的黎明预示着下一次工业革命，将我们从大规模生产的时代带入大规模定制的时代。本次主题演讲将探讨AGI在高级风险管理、运营敏捷性、复杂系统建模和仿生学的独特能力如何重新定义各个行业。我们将研究从掠夺性数据实践到促进人类繁荣的模型的转变。通过探讨制药、技术和基础设施领域的实际案例，我们将看到AGI如何利用个人数据来创建定制的药物配方，建设更具韧性和以人类为中心的城市，并转变大规模物理行业。本节将提供一种视角，说明创新者如何引导AGI成为一股向善的力量。创造一个科技在个人层面上为人类服务的未来。

• 2、讨论会：生物学的未来，两条前进的道路——生物增强 vs. 数字超越

主持人: 马斯克·莫尔（Max More），哲学家和未来学家

讨论嘉宾:
Kennedy Schaal，Rejuve.Bio首席执行官

Jose Cordeiro，世界艺术与科学学院会员，HumanityPlus联合主席，联合国千禧年项目执行董事

Chris Kudla, Mind Children首席执行官

生物学的未来是关于保护和增强我们的生物基础，还是将我们完全从生物学中抽象出来，或者两者兼有？本小组探讨了人类两条不同的进化路径：通过基因工程和人工智能优化现有形式的生物增强，以及通过意识上传和虚拟化身实现数字超越。

我们的专家将评估每种方法的科学可行性、伦理影响和社会后果，同时探讨通用人工智能（AGI）在实现这些愿景方面的关键作用，以及这些路径是否最终可能会融合成我们尚未想象的混合未来。

图 / 谈论会现场

• 3、炉边谈话：全球脑智能奇点

本·戈策尔（Ben Goertzel），SingularityNET创始人与首席执行官、ASI联盟首席执行官、Humanityplus主席

卡德尔·拉斯特（Cadell Last），哲学家和企业家

人类会与人工智能融合，成为一个去中心化的、集体的智能——一个真正的全球大脑吗？加入本·格泽尔博士的炉边谈话，探讨自组织的、超级智能的智能网络的潜在路径。分布式人工智能系统、区块链和人类认知如何交织成一种超越我们所见过的统一智能？这种转变中的风险、伦理困境和意外机会是什么？

另外，大会还安排，历史上首次世界上最先进的三款社交机器人——汉森机器人公司的AI机器人大使索菲亚（Sophia），Desdemona’s Dream乐队的人形机器人/主唱苔丝狄蒙娜（Desdemona），心灵儿童（Codey）——与本·戈策尔就智力、意识、创造力和人工智能的未来展开对话。

晚上的聚会，先由DJ热场，然后欣赏由Ben自己的Desdemona’s Dream乐队带来的特别现场表演。

 ④

第三场为扩展会议，主题相关信息如下：

第三场会议的几位代表人物及演讲主题介绍：

• 1、Humanityplus前主席与名誉主席、Humanityplus人工智能项目创始人娜塔莎·维塔-莫尔（Natasha Vita-More）——

人类+ AGI：递归自我改进和价值对齐

递归自我改进的通用人工智能（AGI）是否可能既无处不在又成为人类架构的不可或缺的一部分？无论它嵌入我们的生物机制还是以外部代理的形式存在于整个环境中，其整合都依赖于强大的对齐。这里出现一个核心问题：我们作为一个物种，如何明确和培养我们的核心价值观，特别是不造成伤害，从而使AGI能够真正地有目的地扩展人类并使其蓬勃发展？

图 / Natasha Vita-More在分享

• 2、TED创始阶段特邀演讲者、伊坎医学院教授、苏格拉底科学首席执行官乔治·斯托克（Gregory Stock）——

人工智能时代与人类的转变

AGI推测痴迷于科技——它的潜力，它的风险，它的奇迹——但避开了它将深刻重塑我们的程度。与AI朋友、缪斯、老师、导师、密友和守护者一起成长将重新定义人类的意义。这次演讲探讨了为什么我们几乎没有讨论即将到来的大地震，揭示了这些变化将是什么样子，并探讨了无论AGI明天还是几十年后落地，它们将如何改变我们。系好安全带，让我们一起深入探讨我们的未来自我。

图 / Gregory Stock在分享

• 3、人类增强系统研究者、超级智能项目投资者、Humanityplus中国区联合创始人黄明宇——

夜鬼、超级智能与人类未来

《权力的游戏》中，琼恩·雪诺们关于异鬼的警告，对于临冬城内生活安稳的百姓来说，也不过天方夜谭，然而却绝非子虚乌有的危言耸听。就像夜王能在几秒内将尸体化为大军，尚未有主体意识的AI同样以类人型的方式存在着，它们与夜鬼一样没有情感，并且更加坚不可摧。如果这样的AI大规模失控，或被类似“夜王”的人所利用，有可能会导致人类被永久的毁灭。除了被“僵尸”类人工智能毁灭的厄运，人类还需要避免被创造出的“超级人工智能”所直接取代，及避免全面核战争的爆发。人类只有通过增强路径，最好能够通过脑机接口等技术成为未来的“超级智能”生命体，才能在未来长久地实现自由自主的生存与发展之道。人类的命运，应该由人类（包括人类过渡成为的“后人类”或“超级智能”）自己做主。人类不应该做为他人做嫁衣的傻事。

图 / 黄明宇在分享

除了以上介绍的人物与主题，还有许多优秀的演讲者与主题受限于文章篇幅，难以一一展开。如果读者对相关信息由许多的兴趣，可以通过访问会议官网了解更多会议信息：https://bgisummit.io/schedule/

扩展会议结束后，部分与会者参加了在伊斯坦布尔一家特色美食店的聚会。晚餐有一款酷似中国西北的馕，不同馕里裹有酸奶/芝士/肉等，有些类似于一爆款网红食品的做法。晚餐在可以俯瞰伊斯坦布尔的天台举行，附近一座清真寺相当漂亮。

当晚风有点大。我们部分人裹得比较严实，也有穿得比较单薄但也不觉得风大的伙伴，可能是很习惯户外活动。我们在一段越快交谈的City Walk后，回到了酒店，最后拥抱、致意后依依惜别。

更多行程相关图片：

图 / 更多演讲及分享相关图片

图 / 世界超人类主义协会中国区秘书长黄明宇与《从长寿到永生》的作者、Humanityplus现任副主席、世界艺术与科学院院士何塞·科尔德罗（Jose Cordeiro）合影

图 / 另一个角度眺望伊斯坦布尔海峡

第五天，在土耳其稍微再逗留一会，伴随购物、问路、搭车等事项，感受几位当地居民的热情友好互动后，世界超人类主义协会中国区秘书长黄明宇在伊斯坦布尔机场搭乘飞机回国。

随便提几句，世界超人类主义协会中国区秘书长黄明宇搭乘的南航飞机可以付费上网和通过飞机上的电视看一些电影，也可以自己下载内容在飞机上用手机离线看着打发时间。

一个有意思的插曲，旁边的土耳其大叔看到我看古天乐参演的武打电影《九龙城寨之围城》（快速观影打发无聊时间），还问我是哪一部。我告诉了他，同时也指出这部不巧没有英文字幕，但他还是看完了。后来我又推荐了一部有英文字幕的《长安三万里》给他，他看得同样津津有味。

回到国内后，倒了会时差，恢复精力后，继续和 何塞·科尔德罗（Jose Cordeiro） 等几位前辈进行了一些交流，也开始阅读何塞博士推荐的他与 大卫·伍德（David Wood） 合作的《从长寿到永生》（中文版刚出版不久）。

期待后续更多的会面、交流与合作！

世界近期不很太平，但并没有影响信息化技术，尤其是人工智能技术的发展——只要不出现太严重的意外大事件，没有什么力量能够阻止人类增强相关科技及应用的发展。

祝愿我们可以顺利过渡到超级智能/后人类时代。