图片来源：Bryce Durbin / TechCrunch

硅谷知名的初创企业加速器Y Combinator（YC）本周为其首届秋季项目举办了Demo Day。

此次入选的95家初创公司与YC近期项目群体颇为相似，其中不乏众多AI初创企业的身影。据我粗略统计，这批初创企业中约有87%涉足AI领域。与YC今年夏季和冬季项目相似，这些公司普遍聚焦于客户服务相关的AI及AI代理技术。

然而，有四家公司尤为引人注目，它们共同之处在于：正在开发帮助企业监控AI应用的工具，旨在迅速解决或预防因不准确而导致的问题，从而阻碍AI工具在企业中的广泛应用。这些公司值得企业密切关注。

HumanLayer

功能：提供API接口，使AI代理能够在需要时联系人类寻求帮助和审批。

亮点：AI代理在提升工作效率方面潜力巨大，但前提是它们能按预期正常运行。在反馈循环中融入人类元素有助于防止AI代理偏离正轨，但过度的人工监督会拖慢流程，降低AI代理应有的效率。HumanLayer似乎找到了一个巧妙的平衡点：仅在必要时引入人工监督，非必要时则保持自动化流程。

Raycaster

功能：企业销售研究代理。

亮点：这是我首次对一款企业销售线索生成软件感到由衷兴奋（请允许我这么说）。Raycaster的独特之处在于，它能够挖掘潜在客户的非常具体细节，如公司使用的实验室设备或首席技术官在最近会议上的讨论内容，从而在合适的时间和方式向潜在客户推销。这在众多仍局限于收集表面信息的线索生成初创企业中显得尤为突出。

Galini

功能：为AI应用提供合规护栏。

亮点：Galini为企业提供了一种便捷工具，使其能根据公司政策和法规轻松为AI应用设置AI护栏。此外，将控制权交给企业，赋予了它们更多自主权，并允许它们评估护栏的有效性。

CTGT

功能：帮助企业客户管理AI幻觉的工具集。

亮点：AI幻觉是一个棘手且难以解决的问题。虽然CTGT无法完全杜绝所有幻觉，但其主动监控和审核企业模型的方法，能够更有效地发现异常和潜在幻觉，相较于其他现有选项，这无疑是一个显著的升级。该公司已与《财富》10强企业开展技术测试，这进一步证明了潜在客户对此类工具的需求。