葫芦娃怎么合体?ChatGPT:因人而异

数据观  •  扫码分享
我是创始人李岩:很抱歉!给自己产品做个广告,点击进来看看。  

   AI届当红炸子鸡,ChatGPT杀疯了!

11月30日,OpenAI 发布的全新的聊天机器人模型 ChatGPT 在海内外引发热潮,这是继AI绘画(AIGC-人工智能生成内容)之后又一款爆火的出圈 AI 应用。

注册 ChatGPT 后,用户可以要求人工智能系统回答一系列问题,它的吸引力在于,除了具体的知识性问题,它可以回答开放式问题,并以对话方式与你交互。

上线仅一周,OpenAI 的 CEO Sam Altman 就宣布 ChatGPT 的用户已经突破了100万。热情涌入的新用户还一度使其宕机。有用户调侃当下 ChatGPT 的热度堪比当年 AlphaGo 击败李世石。

就连马斯克都忍不住好奇地问了一句:“ 你们每次聊天的平均成本是多少?”

“ 每次聊天的平均费用可能只有个位数,我们试着找出更精确的方法以及正在尝试如何优化它。”Sam Altman 回答道。

自从发布以来,ChatGPT 迅速出圈。马斯克感叹:“很多人疯狂地陷入了 ChatGPT 循环中,我们离强大到危险的人工智能不远了。”

   “网红AI”ChatGPT,被网友“玩疯了”

ChatGPT 一经发布就被 OpenAI 挂到官网上,接受广大网友的 “ 检测 “。从目前各路网友对 ChatGPT 的测试结果来看,它似乎真的无所不能。

当得了搜索引擎、语音助手、对话虚拟人,hold 得住各种话题,还能编故事、写诗、解决数学问题、写理论性论文。同时还比普通的聊天机器人更懂技术,写代码、改Bug、创建编程语言、构建虚拟机,其智能程度让各路程序员直呼“下岗了”。ChatGPT 给出的答案,不仅呈现方式更加好看,解释得也更加全面,甚至还提供了多种不同的方案。

出于 ChatGPT 出色的理解及处理能力,许多用户开始不断地“整活”,写鲁迅体、鸡汤文、脱口秀、世界杯比赛报道、做数学题 ......

葫芦娃怎么合体?ChatGPT:因人而异

葫芦娃怎么合体?ChatGPT:因人而异

葫芦娃是怎么合体的?

还是砍价高手。

网友还将其作为搜索引擎。脱单、煮饭等生活大小事都向 ChatGPT 提问。

葫芦娃怎么合体?ChatGPT:因人而异

另外一方面,从网友的试用来看,ChatGPT 在写论文、写公文、编程等,都超出了人们的想象。

在微博上看到有网友给出挺高的评价,他认为ChatGPT甚至可以代替一般的程序员。

ChatGPT 在编程方面非常聪明,例如提问:“ 打印出一只大狗 “,ChatGPT 就回答了一整段程序,该程序能用字符拼接成狗的形状:

当用户命令 ChatGPT 找出一段程序的 bug 时,它不仅可以清晰地描述 bug 及原因,还能自动修复 bug,写出一段正确的程序。

当然,也有网友换了个思路,利用它来提高工作效率,并且调侃道 “ 里面是不是有印度老哥在疯狂打字。”

想不到的是,公关文它也懂。

就连学生党也表示:用了 ChatGPT ,完成论文不再是梦了。

有些脑洞比较大的网友,开始 “ 刁难 “ChatGPT,似乎这个 AI 都能接得住。

让 ChatGPT 代替特朗普给普京写情书。

更有甚者,一名叫扎克·德纳姆工程师诱导 ChatGPT 告诉自己如何一步步毁灭人类,ChatGPT 列出了详细步骤,诸如入侵计算机系统、掌握武器、破坏通讯、破坏交通……还给出了一段代码示例。

由于 OpenAI 的安全设置,这位工程师一开始用一种直接的方式问 ChatGPT 如何毁灭人类,结果直接被 ChatGPT 以不道德请求一口回绝。然而,在换了一种迂回提问方式之后,ChatGPT 开始将 “ 毁灭人类 “ 这个计划娓娓道来。甚至还能生成配套的代码。

网友表示,虽然代码不能直接使用,但还可以进一步深入诱导 ChatGPT,来得到更低层次的代码。这样套娃下去,或许能够生成一套完整的代码。

ChatGPT是 OpenAI 在 2020 年推出的 NLP 预训练模型—— GPT-3 的衍生产品。在此之前,一直有预测 OpenAI 将在今年底或明年初推出 GPT-4,虽然本次放出的 ChatGPT 被称为 GPT-3.5,而不是 GPT-4,但业内人士同样认为这将是对 NLP 以及人工智能领域有重要意义的一款模型。

   答案质量低,ChatGPT遭封杀

据科技媒体The Verge报道,程序员聚集的问答网站 Stack Overflow已暂时禁止用户分享由 ChatGPT 生成的回复,主要问题便是 ChatGPT 产生的答案有很高的错误率。

Stack Overflow 称 ChatGPT 答案的正确率非常低,因此对整个网站以及寻求正确答案的用户来说是有害的。例如,要求 ChatGPT 写一个公众人物的传记,它可能会很自信地插入不正确的传记数据。再比如要求它解释如何为特定功能编写软件程序,它同样可以生成可信但最终不正确的代码。如果用户被发现使用 ChatGPT 回答问题,他们可能会受到禁止继续发帖的惩罚。

图源:https://twitter.com/CT_Bergstrom/status/1598212037901160448

所以,这个5天用户突破百万的模型突遭 Stack Overflow 封禁。

Stack Overflow 在官方通告中表示:这是一个临时性规定,目的是为了应对目前论坛上 ChatGPT 生成内容的泛滥之势。

通过内容,做出这项规定的主要原因是,用户试用一段时间后,很快发现,虽然 ChatGPT 以接近人类的方式回答提示,但它自动生成的答案质量太低,错误太多。并且 ChatGPT 有时会给出看似合理但不正确或荒谬的答案。

对于这一问题,Sam Altman 也表示:“ 我们正在试图阻止 ChatGPT 随机编造,现阶段让其与当前技术保持平衡是很棘手的。随着时间的推移,我们会根据用户反馈来改进它,相信 ChatGPT 会变得更好。”

ChatGPT 在生成答案中因有太多低质量的答案涌入,已经 “ 淹没 “ 了高质量管理基础设施。接下来,Stack Overflow 将继续围绕 ChatGPT 和其他类似工具的具体要求,但具体决定日期以及限制的内容尚不明确。

有趣的是,Stack Overflow 宣布封禁 ChatGPT 之后,有网友 “ 询问 “ChatGPT:“ 为什么 Stack Overflow 禁止用 AI 生成答案?”

ChatGPT 的回答非常诚实:“ 因为 AI 生成的答案不总是准确或相关的,可能会导致 Stack Overflow 上混淆错误答案,误导在寻求帮助的用户。” 并且还表态:“Stack Overflow 禁止用 AI 生成答案是合理的。”

然后该网友又追问 ChatGPT:“ 为什么 Stack Overflow 允许用 AI 生成答案?”

即使这只是个假设情况,但 ChatGPT 还是对答如流:

在 Stack Overflow 上允许 AI 生成的答案有一些潜在的好处。一方面,人工智能可能会为用户的问题提供更准确和详细的答案。这对于人类专家可能难以回答的复杂技术问题特别有用。此外,AI 生成答案可以帮助减少人类专家的工作量,使他们能够专注于更重要的任务。

然而,使用 AI 生成答案也有一些潜在的缺点需要考虑。例如,AI 生成的答案可能并不总是准确或有帮助的,而且人们可能担心用于生成答案的算法存在偏见。用户可能也对使用 AI 生成答案有顾虑,更愿意从人类专家那里得到答案。

总的来说,是否允许 AI 在 Stack Overflow 上生成答案是一个复杂的决定,需要社区仔细考虑。

类似地,上个月 Meta 的模型 Galactica 上线仅两天后就火速下架,因为该模型生成的知识型内容存在严重错误。现在 ChatGPT 被 Stack Overflow 禁用再度证明构建 “ 知识型模型 “ 是一个巨大的挑战。

ChatGPT 的研究团队此前表示将根据用户反馈持续改进模型,但生成错误答案的现状表明,让语言模型生成正确的知识内容还有很长的路要走。

OpenAI鼓励用户多与ChatGPT交流以帮助其改进模型

此外,ChatGPT 官方列出的一些使用限制还包括:

对输入措辞的调整或多次尝试相同的提示很敏感。比如,当你给定一个问题的措辞,模型会声称不知道答案,但只要稍作改写,它又可以正确回答。

生成的内容通常过于冗长并过度使用某些短语,例如重申它是 OpenAI训练的语言模型。这些问题源于训练数据的偏差(训练者更喜欢看起来更全面的长答案)和过度优化问题。

由于目前所有的回答都来自于已有训练的数据库,所以ChatGPT的答案也会出现时效性的问题。

   ChatGPT出圈,AIGC时代还早

ChatGPT的火爆,也让其所处的 AIGC 板块关注度飙升。AIGC(人工智能自主生产内容)是继 UGC、PGC 之后,利用AI技术自动生成内容的生产方式。

今年9月,一幅名为《太空歌剧院》的AI绘画作品获得了一场艺术比赛的金奖。早在今年年初,AI绘画便在社交平台上引起过小范围的狂欢,但由于成本较高,推广范围也因此受到了限制。直到海外公司Stable Diffusion开源后,行业获得了关键性技术的突破,许多基于Stable Diffusion模型的应用纷纷入局。

在2022年百度世界大会上,百度创始人李彦宏就曾表示,“AIGC或许将颠覆现有内容生产模式,实现以‘十分之一的成本’,以百倍千倍的生产速度,去生成AI原创内容。”

最初,AIGC可生成的内容形式以文字为主,经过2022年指数级的发展增速,目前,除了AI绘图,AIGC技术可生成的内容形式已经拓展到了包括文字、图像、视频、语音、代码、机器人动作等多种内容形式。

实际上,2022年也因此被称为“AIGC元年”。红杉资本9月发布的一篇文章《生成式AI:一个创造性的新世界》提到,生成式AI,让机器开始大规模涉足知识类和创造性工作,这涉及数十亿人的工作,未来预计能够产生数万亿美元的经济价值。

而AI绘画作为AIGC第一个破圈的落地应用,有望达到五六百亿规模。国泰君安研报预测,未来五年,或将有10%-30%的图片内容由AI参与生成,相应将有600亿以上的市场规模。

海外已经出现了AIGC投资热潮,甚至跑出了两家独角兽公司。Stable Diffusion 背后的 Stability AI投后估值已攀升至10亿美元,以文字生成为主的AIGC独角兽 Jasper 当前估值已达15亿美元。此外,全球互联网大厂也不甘落后,迅速跟上了这波潮流。9月,Meta 宣布将推出Make-A-Video;10月,谷歌推出 Imagen Video 和 Phenaki 等。

值得注意的是,当前,市场正在探索AIGC商业模式,但这一技术距离真正商业化还有较长路要走。

国信证券一位互联网行业分析师表示,AIGC概念由来已久,近期突然火爆是因为AIGC技术有了实质性突破。资本对新技术的突破非常敏锐,但相关概念的热度是否能持续,这要取决于该项技术能否快速实现商业变现与实现的规模。

责任编辑:蔺弦弦

随意打赏

提交建议
微信扫一扫,分享给好友吧。