Okta借助Atlas向量搜索实现自然语言请求

行业

软件与技术

产品

MongoDB Atlas
Atlas向量搜索

应用案例

人工智能/机器学习

客户时间

2016
简介

为商业提供智能身份和安全管理

在理想的世界里,我们的设备会立刻识别我们,并允许我们访问我们的应用程序和文档——同时保护我们的信息不被其他人获取。当网络是私有的,员工在办公室工作时,组织机构对安全的管理相对简单。但现在,随着向云的转型和远程工作的兴起,安全和身份管理变得更加复杂。

作为全球领先的身份安全提供商,Okta致力于让每个人都能安全地在任何设备上使用任何技术,这一切都由他们的身份驱动。在全球拥有超过18,000名客户,Okta已为超过7,000个应用程序开发了集成。

为了推进其身份治理和管理工作,Okta在2021年收购了工作运营平台atSpoke。更名为Okta Inbox后,它使请求访问应用程序变得简单。例如,Okta Inbox内置的人工智能意味着用户可以输入自然语言查询以快速轻松地找到他们需要的东西。

Okta Inbox user request form

图1:Okta Inbox用户请求表单

“我们以客户为中心,这是我们DNA的一部分,从高级管理层到开发团队。我们所做的一切都是为了帮助客户更快地工作并保持安全,”Okta工程总监Suchit Agarwal说。
挑战

找到一种可扩展的方式来推动自然语言查询

为了创建Okta Inbox,Okta编写了代码并手动构建了机器学习模型来推动自然语言查询。这些模型生成向量嵌入,一系列加权值,用于检测数据集的定性和定量方面。
Okta Inbox administrator view

图2:Okta Inbox管理员视图

虽然这种方法是有效的,但随着业务的增长,它需要更多的可扩展性,并且限制了团队可以进行的实验。例如,当使用自然语言搜索向量化的应用程序集合时,机器学习模型会识别“视频会议”、“发起视频通话”或“会议通话”等术语与该公司首选的通信应用程序相关。

Okta 的机器学习模型和嵌入在专用的 Kubernetes 集群上进行管理和维护。然而,向量要么需要存储在专用的向量数据库中——这需要额外的成本和维护解决方案——要么需要安装具有向量搜索功能的附加搜索引擎。调整环境以增加性能将产生额外的费用,并占用开发者的时间。

解决方案

自动化嵌入和优化算法

当首次查看 MongoDB 的 Atlas 向量搜索 时,Okta 认识到使用该解决方案自动化自然语言查询背后的手动工作可以使开发者专注于创新。

“Atlas 向量搜索是我们问题的答案。它简化了 Okta 邮箱使客户超级友好的大量工作,”Agarwal 说。“能够找到如此容易与 MongoDB Atlas 集成的解决方案真是太令人惊讶了。我们不必在单一数据平台上做出妥协。”

而不是为嵌入存储构建自定义解决方案,现在嵌入可以存储在 MongoDB Atlas 中的集合中。当被提示时,Atlas 向量搜索查询嵌入以快速轻松地找到正确的应用程序。使用先前的方法,Okta 依赖于自制的搜索算法来处理这些类型的查询。MongoDB Atlas 提供了一个高效的数据层,简化了这些操作。

“Okta 邮箱知道用户请求访问哪个应用程序,并自动提出请求处理票证,”Agarwal 解释说。“它通过我们的聊天机器人接收数千个请求,我们不再需要手动处理数千个文本嵌入来解决这些查询。”

“MongoDB Atlas 非常灵活。你不能通过开发数据库无法处理的东西把自己画进死角。”

Suchit Agarwal,Okta 工程总监

当不在开发工作中时,该团队使用 MongoDB Atlas 分析和仪表板来监控性能,并确定可以优化查询以提高成本效益的地方。最终,MongoDB Atlas 帮助 Okta 专注于最重要的问题并加速创新。

“有了备份、升级和扩展的处理,我的团队能够专注于开发支持我们战略路线图的新产品,”Agarwal 说。有了 MongoDB Atlas 给他们的额外时间,Agarwal 和他的团队能够微调 Okta 解决方案并尝试不同的模型——同时将运营成本保持在最低。Agarwal 补充说:“我们可以同时运行许多算法进行比较和对照,这更有利于优化,从而惠及客户。”

结果

出色的功能,节省 30% 的成本

使用 MongoDB Atlas 和 Atlas 向量搜索,Okta 可以专注于构建优秀的新产品并为客户提供一个出色的用户体验。此外,Okta 知道其数据库具有足够的弹性和可扩展性,可以处理不断增长的需求。

“MongoDB Atlas 非常灵活。你不能通过开发数据库无法处理的东西把自己画进死角。新产品得到高度采用,我们知道我们的数据库永远不会成为中断客户体验的瓶颈,”Agarwal 说。

MongoDB 还帮助 Okta 快速交付更多价值。因为他们不需要运行额外的基础设施,开发者可以更快地进行迭代,MongoDB Atlas 简化的环境更轻量且性能更高,更不容易出错。

“MongoDB 把管理任务从我的团队手中解放出来。开发者现在可以更加专注于优化数据库而不是维护它,”Agarwal 解释道。“与自托管解决方案相比,我们也在朝着降低 30% 的运营成本的目标迈进。”

Okta Inbox 现已在 Atlas Vector Search 上线,过渡过程平稳且没有任何问题

“我们与 MongoDB 一起经历了激动人心的旅程。团队在每一个步骤都与我们保持高度互动。他们非常响应迅速、透明且协作,”Agarwal 补充道。“有了他们的支持,我们可以更快地对新想法和功能进行迭代,并迅速推向市场。”

“Atlas Vector Search 是我们问题的解决方案。它简化了许多使 Okta Inbox 对客户超级友好的工作。”

Suchit Agarwal,Okta 工程总监

下一步

想了解更多关于他人如何利用 AI 进行创新的信息,请查看 用 MongoDB 构建 AI 的案例研究系列。您还可以 注册 MongoDB Atlas 并访问 Atlas Vector Search 快速入门指南,开始构建更智能的搜索或在您的下一个项目中开始构建生成式 AI。