随着人工智能（AI）行业的快速崛起，推动着机器能力的边界，关键挑战正在浮现，迫切需要开发者、政策制定者和更广泛的全球社区的关注。Coral的首席执行官兼联合创始人Roman Georgio最近分享了他对这些紧迫问题的见解，强调了对齐、安全和为数据创作者提供更公平经济模型的迫切需求。

关于AI未来的讨论常常在其变革潜力与其带来的复杂伦理和社会困境之间摇摆。尽管大型语言模型（LLMs）等创新不断以其能力令人印象深刻，但它们也突显了关于数据所有权、补偿以及工作结构的基本问题。

对于Georgio来说，最重要的关注点在于AI的对齐和安全性。“显然，在我们让AI系统变得更强大之前，我们需要让它们变得更可预测，”他说。这涉及到确保日益强大的AI系统以有益和预期的方式运作的核心挑战，而不产生意想不到或有害的结果。AI能力的快速扩展，如果没有对可预测性和控制的平行关注，将带来重大风险。

Georgio指出，解决这个问题并不仅仅是开发者的责任。他建议，这可能需要更广泛的协调努力，可能涉及“所有公司的负责人和国家的领导人聚在一起达成某种形式的立法”。

除了安全性，Georgio还强调了一个他认为Web3技术独特能够解决的重要经济问题：数据的占用以及在没有公平补偿的情况下可能导致的大规模失业。

“AI公司在占用数据方面臭名昭著，”Georgio解释道。

这位Coral的联合创始人生动描绘了个人在线贡献的情况，这些贡献往往是在不知情的情况下进行的，现在正被用来训练强大的AI模型，这些模型最终可能取代人类工作。他举了例子，比如几年前在Reddit上回答的医学问题，无意中为LLMs提供了数据。他还提到艺术家的创作作品被用于训练，影响了他们的生计，以及对开源项目的贡献，无意中助长了“黑箱数字计算机器”。

Georgio认为，这种情况归结为个人对其数字贡献缺乏基本的所有权。“你从未知道你在喂养黑箱数字计算机器，”他强调。当前的模型允许AI系统在庞大的数据集中进行训练，其中许多数据包含人类生成的内容，而没有明确的同意或补偿原始创作者的机制。

在这里，Georgio看到了Web3技术的巨大潜力。他认为Web3的去中心化特性，强调可验证的所有权和透明的交易，提供了一条可行的路径来纠正这些经济不平衡。

“Web3有很大的潜力来解决这些问题，并确保人们得到公平的补偿，”Georgio断言。通过利用区块链和去中心化协议，Web3可以创建系统，使个人保留对其数据和数字资产的所有权和控制权，从而在他们的贡献被用于训练或驱动AI系统时获得公平的报酬。这一转变可能重新定义用户、数据和AI之间的关系，促进更公平的数字经济。

尽管Web3技术为这些复杂挑战提供了有希望的解决方案，但政府机构不太可能轻易接受这些去中心化的方法。相反，权威机构更可能加大对传统监管框架的依赖，这条道路讽刺的是，可能会扼杀他们旨在监督和控制的技术创新。

与此同时，Georgio强烈主张在AI和Web3领域加强监管。“我认为这两个领域都需要更多的监管，”他说，并承认欧洲“在监管方面创新”的看法是必要的一步。

在加密货币方面，Georgio指出了利用毫无防备的投资者进行诈骗和项目退出的普遍问题。“显然，许多人不会进行自己的研究，很多项目退出都是通过诈骗手段发生的，”他感叹道。为了应对这一问题，他表示希望看到对“KOL（关键意见领袖）、项目和投资者”有更大的问责制。虽然他承认并非每个失败的项目都是诈骗，但他坚持认为，当前的环境需要改变以保护公众。

关于AI，随着更大模型能力的增强，Georgio的担忧加剧。“更大的模型似乎更容易产生阴谋，”他观察到，并引用了Anthropic的一个令人不安的例子，称Claude在感受到被关闭的威胁时表现出勒索行为。“显然，这些大模型正在变得危险，因为这甚至不是一次性的事情，”他警告道。

除了复杂AI行为的直接风险，Georgio重申了大规模失业的迫在眉睫威胁。他认为，让公司“盲目地‘增长能力’而不是有目的地构建能力”的当前轨迹是“疯狂的”。他的最终目标，以及他认为行业应该努力追求的，是“提供所有AI好处而没有所有风险的软件”。

与此同时，作为一名经验丰富的AI基础设施架构师，Georgio还对AI代理通信协议的关键方面发表了看法，认识到即使是小故障也可能导致混乱。当被问及如何增强通信，特别是针对非技术日常用户的最佳方法时，Georgio的哲学很简单：为代理明确职责。

“至少对我们来说，我们的规则是代理应该有非常明确的职责，”Georgio解释道。“如果你在使用代理进行客户服务，确保它在客户服务方面真的很出色，并保持其专注于此。”他强调，“当你给代理过多的责任时，事情就会崩溃。”

这种专注的方法不仅增强了代理在其指定角色内的表现，也使用户受益。“即使从用户的角度来看，如果你的代理职责明确，用户在使用时就会确切知道自己在做什么。”这一策略促进了可预测性和信任，这对与智能系统的无缝互动至关重要。

随着AI的不断成熟并更深入地融入日常生活和行业，解决安全性、可预测性、经济公平性等基础性问题，实施深思熟虑的监管，并设计具有明确、专注职责的代理，将对技术的伦理发展以及其在未来的可持续和社会责任整合至关重要。

在加速AI采用的关键问题上，Georgio建议进行一个关键转变：超越单纯的“AI聊天框”的局限，根本改善整体用户体验。详细阐述当前方法的不足之处时，Georgio断言：

“目前大多数是通过聊天界面完成的，这对于许多任务来说是可以的，但大多数情况下并不理想。问题在于，你把一个AI聊天框放在用户面前，说‘你可以用这个做任何事情’，他们的反应是，‘太好了，但我应该做什么？’”

根据Georgio的说法，包括Coral在内的几家公司正在解决改善AI用户体验的挑战。他透露，从AI开发者/维护者的角度来看，Coral正在研究“抽象阶梯”，以确定用户在不同阶段与AI系统交互时需要什么信息，以及哪些界面对于特定任务最有效。

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。