当前位置:首页>媒体矩阵>网信科技前沿

网信科技前沿

ChatGPT必须避免的5个陷阱

访问次数: 2880 次    作者: 远望智库开源情报中心 忆竹 编译    发布时间: 2023-10-27

0

像ChatGPT和稳定扩散这样的生成式人工智能应用程序是非常有用的工具,可以帮助我们完成许多日常任务。我们中的许多人已经发现,当有效使用时,它们可以使我们更有效率、更有生产力和创造力。

然而,越来越明显的是,使用它们既有正确的方法,也有错误的方法。如果我们不小心,很容易养成坏习惯,这些坏习惯会很快变成问题。

所以,这里有一个很容易被忽略的五个陷阱的快速列表。意识到这些危险应该会使避免它们变得相当简单,并确保我们总是以对我们有帮助的方式使用这些强大的新工具,而不是让我们陷入尴尬或失败。

一、相信它告诉你的一切

你只需要玩一会儿ChatGPT就可以意识到,它远不是一个无所不知的机器人霸主,有时可能会有点模糊。它有产生幻觉的倾向——这是从人类心理学借用的一个术语,用来使它的错误看起来与我们更有关联。它实际上只是意味着它编造事情,把事情搞砸,有时还带着一种看起来很滑稽的自信。

当然,它在不断更新,我们可以期待它变得更好。但是到目前为止,它特别倾向于编造不存在的引用,或者引用与当前主题无关的研究和论文。

关键的一课是检查和反复检查它告诉你的任何事实。互联网(和这个世界)已经充满了足够多的错误信息,我们当然不需要再添加了。特别是如果您使用它来创建业务内容,那么对您发布的所有内容进行严格的编辑和审查是非常重要的。当然,这对人类创造的内容也很重要。但是,过于信任人工智能的能力很容易导致错误,让你看起来很傻,甚至很可能损害你的声誉。

二、用它来代替原始思维

重要的是要记住,在某些方面,人工智能——特别是像ChatGPT这样基于语言的生成式人工智能——类似于搜索引擎。具体来说,它完全依赖于它可以访问的数据,在这种情况下,这是它接受训练的数据。这样做的一个后果是,它只会反刍或重述现有的想法;它不会像人类一样创造出真正创新或原创的东西。

如果你是在为观众创作内容,那么他们很可能是来了解你的独特经历,或者从你所在领域的专业知识中受益,或者因为你的个性或你的沟通方式吸引了他们。你不能用通用的人工智能生成的常识来代替这个。情绪、感觉、随机想法和生活经历都融入了我们的想法,而人工智能不会复制这些。人工智能当然可以成为一个非常有用的研究工具,帮助我们组织我们的思想和工作流程,但它不会产生让成功的企业(和人们)脱颖而出并擅长他们所做的事情的“火花”。

三、忘记隐私

当我们与ChatGPT或Dall-E 2等基于云的人工智能引擎合作时,我们对隐私没有任何期望。Open AI——这些特定工具的创造者——在其使用条款中提前说明了这一点(你确实读过,对吗?)。同样值得注意的是,它的隐私政策是“脆弱的”。

我们的所有交互,包括我们输入的数据和它生成的输出,都被认为是它自己的系统摄取、存储和学习的公平游戏。例如,微软已经承认它监控和读取Bing(必应)及其用户之间的对话。这意味着我们必须小心输入个人和敏感信息。这也适用于商业战略、与客户的通信或公司内部文档等内容。根本不能保证它们不会以某种方式暴露。微软(Microsoft)基于ChatGPT的必应(Bing)早期公开版被发现偶尔会与其他用户分享私人对话的细节,因此一度被关闭。

出于对隐私的担忧,许多公司(至少有一个国家——意大利)已经禁止使用ChatGPT。如果您确实以专业身份使用它,重要的是要有适当的保护措施,并及时了解处理此类数据所带来的法律义务。存在运行应用程序的本地实例的解决方案,允许在不离开您的管辖范围的情况下处理数据。对于医疗卫生或金融等领域的企业来说,这可能很快变得必不可少,因为在这些领域,处理私人数据是家常便饭。

四、变得过度依赖

出于多种原因,过度依赖人工智能很容易成为一个问题。例如,在许多情况下,服务可能变得不可用,例如当用户或服务提供商遇到技术问题时。出于安全或管理原因,工具和应用程序也可以脱机,例如应用更新。或者他们可能成为黑客拒绝服务攻击的目标,使他们离线。

同样重要的是,过度依赖人工智能可能会阻止我们开发和磨练人工智能工具正在取代的某些技能。这可能包括研究、写作和交流、总结、为不同受众翻译内容或组织信息。这些是对职业成长和发展非常重要的技能,当我们需要它们而人工智能的帮助又不可用时,忽视实践它们可能会让我们处于不利地位。

五、失去人情味

在电视剧《南方公园》最近的一集中,孩子们使用ChatGPT来自动化他们生活中“无聊”的方面——例如与他们所爱的人互动(以及在他们的功课上作弊)。显然,这是为了搞笑,但和所有好的喜剧一样,这也是对生活的评论。生成式人工智能工具可以轻松实现电子邮件、社交消息、内容创建以及商业和通信的许多其他方面的自动化。与此同时,它会使表达细微差别变得困难,并成为共情和建立关系的障碍。

重要的是要记住,这个想法是使用人工智能来增强我们的人性——通过释放花在世俗和重复任务上的时间,以便我们可以专注于使我们成为人类的东西。这意味着人际关系、创造力、创新思维和乐趣。如果我们开始尝试自动化我们生活的这些部分,我们将为自己建造一个与人工智能末日论者预测的最糟糕的未来一样具有破坏性的未来。


发表评论