黄仁勋:检索增强生成能有效解决AI幻觉问题
时间:2024-03-21 19:04:53 小新新
在GTC2024大会的第二天,黄仁勋接受了一众媒体的采访。关于生成式人工智能的幻觉现象,黄仁勋认为确实需要关注。不过,通过采用检索增强生成的方法,就可以有效地解
在GTC2024大会的第二天,黄仁勋接受了一众媒体的采访。关于生成式人工智能的幻觉现象,黄仁勋认为确实需要关注。不过,通过采用检索增强生成的方法,就可以有效地解决这一问题。
黄仁勋称,检索增强生成强调在生成答案之前,首先进行广泛的网络查询和搜索,以确保答案的准确性和可靠性。这种方法避免了人工智能编造答案的情况,而是直接从网络上读取相关信息。
通过对搜索结果的优先级排序和筛选,就可以选出最准确、最真实的答案来回答用户提出的问题。
也许人工智能知道某个网站的某些信息,也许它只知道该网站上的描述,其中有些内容可能是不正确的,所以它会拒绝所有不正确的信息,然后找到最有意义的答案。
人工智能会重新描述这个答案给用户。所以,这个人工智能实际上是在为用户做研究,而不仅仅是在回答用户的问题。它首先进行研究,确定哪个答案最好,然后总结给到用户那边。