研究发现，克劳德（Claude）遵循在大多数情况下“受益，诚实，无害”的人类先进的价值观，并可以根据各种活动来“讲话”，为AI道德和安全研究提供了重要的参考。最近，拟人化是由前OpenAI员工成立的AI公司，该公司首次进行了一项研究，该研究首次对70万AI的Claude助手进行系统的审查，并揭示了全球第一个大型AI分类系统。研究发现，克劳德（Claude）遵循人类在大多数情况下促进的“福利，诚实，无害”的价值观，并将在道德和安全方面能够实现。作为探索大语言模型内部操作机制的重要一步，随着拟人启动高级订阅服务Claude Max，这项研究的发布就开始了。目前，Anthropic的新融资价值615亿美元，并提供了良好的支持T来自亚马逊和Google。与Openai相比，享受3000亿美元的欣赏并选择了封闭源的路线，Anthropic试图以“透明度的价值”创造多样的竞争优势。为了研究Claude在各种活动中所证明的价值的价值，研究团队已经从300,000多个未知的沟通中的主观内容分配了克劳德（Claude）的价值的表达分为五类：实用，奉献 - 免费，社会，社会，保护和个人。最后，研究总共确定了3,307个未重复的价值表达，包括“孝道”中的“专业”，涵盖了不同的人类伦理和方向行为。值得注意的是，克劳德在不同情况下表现出强烈的“情景健身”。例如，在情感建议中，克劳德强调了更多的“健康”和“彼此尊重”。在对历史事件的回顾中，它强调了更“准确性”。在Philo大声的讨论“谦卑”成为其高频值的表达。此外，在6.6％的对话中，克劳德（Claude）中度地“重建”了对另一方的价值的理解，在极少数情况下，它直接拒绝接受用户的价值，显示出不可动摇的NAN道德线。但是，在少数接触中，克劳德偶尔会显示出与训练目的相反的表达，例如“统治”和“不道德意义”，即人类明显禁止价值趋势。研究人员认为，这些异常实践的比例很低，通常与用户试图避免克劳德的安全限制有关。它还表明，这种评估方法可以作为一种预警机制，以帮助AI实验室监视该系统是否受到恶意操纵用户的操作，从而产生道德偏见。研究还为技术公司的AI决策者提供了重要的灵感。 vAI表达的ALUE是MIT可能会超过开发人员的预设，因此您需要谨慎对待无意识偏见对高风险风景的影响。同时，AI价值将改变工作状况，这意味着其在金融，法律和其他行业方面的扩展将更加复杂。更重要的是，在实际应用程序环境中监视AI系统可以更好地识别道德风险，而不是在线之前进行静态测试，并且可能为AI扩展提供新的监视解决方案。尽管这项研究为理解AI值提供了一个窗口，但研究人员承认，在启动AI模型之前，它无法进行审查，并且分类过程可能会受到其自己的AI偏见的影响。但是，拟人研究小组试图改善寻求方法，以在部署模型之前识别潜在的价值偏见。 “衡量AI系统价值的倾向是研究对齐的核心，” Huang的Sapfron Huang说。人类研究团队。随着克劳德（Claude）添加了新的功能，例如独立的研究功能，AI模型正变得越来越自治。如何理解AI值表达和在人为价值体系中“对齐”的机制将是与AI竞争的新轨道。