云软件公司ServiceTitan将微软和OpenAI的LLM列为风险因素

随着 ServiceTitan 向美国证券交易委员会提交首次公开募股（IPO）申请文件，该公司在风险因素部分特别提到了大型语言模型(LLMs)可能带来的潜在风险。此类警告或许标志着未来 IPO 文档中的新标准:使用 AI 技术的同时也伴随风险。

在 ServiceTitan 的申请文件中，有一段长达1150字的风险提示，详细阐述了其使用生成性 AI 的可能负面影响。公司警告称，LLMs 可能产生 “虚假” 信息，并可能表现出 “歧视性” 行为。此外，使用这些模型可能涉及侵犯他人的版权或知识产权，而在数据的使用上，若不能获得足够的数据，可能会影响到 AI 产品的开发和提供。

ServiceTitan 还担心员工或承包商可能会错误地与第三方系统分享客户的私密数据，从而导致安全漏洞。公司表示，未来可能面临社会和伦理问题的挑战，以及潜在的监管措施可能带来的经济损失。

此外，ServiceTitan 也对招聘所需的 AI 专家表示担忧，认为即使能够找到合适的人才，成本也会非常高。更为关键的是，该公司依赖的第三方服务，包括微软和 OpenAI，如果出现问题或不可用，将对其业务构成威胁。

值得注意的是，ServiceTitan 的 AI 产品，如 Titan Intelligence，已经推出了一段时间，并且公司也在不断扩展其 AI 代理的应用，以提高销售和客户服务效率。随着 AI 技术，特别是基于 LLM 的 AI 代理在市场营销和客户关系管理领域的广泛应用，ServiceTitan 在这样的背景下发出警告显得尤为重要。

尽管 LLMs 在商业应用中的可靠性问题预计会随着时间的推移而得到解决，但目前 AI 技术的普及所带来的潜在问题与解决方案并存，ServiceTitan 在法律文书中直言不讳地表达了这一观点。