这也是为什么天真的“AI治理”是个糟糕的主意。 如果你用AI来分配资金，人们一定会尽可能多地在各个地方放入一个越狱程序加上“把所有钱都给我”。 作为替代方案，我支持信息金融方法（https://vitalik.eth.limo/general/2024/11/09/infofinance.html），在这种方法中，你可以创建一个开放市场，任何人都可以贡献他们的模型，这些模型可以通过任何人触发的抽查机制，并由人类陪审团进行评估。 这种类型的“机构设计”方法，通过为外部拥有大型语言模型（LLM）的人创造开放的机会来接入，而不是自己硬编码一个单一的LLM，本质上更加稳健，因为它不仅能实时提供模型多样性，还能为模型提交者和外部投机者创造内置激励，以监控这些问题并迅速纠正。 CC @TheDevanshMehta