中国投资网 科技 内容风险再成焦点!苹果阻止ChatGPT驱动的应用更新,OpenAI启用新模型应对

内容风险再成焦点!苹果阻止ChatGPT驱动的应用更新,OpenAI启用新模型应对

据媒体3月2日报道,苹果公司上周阻止了一款使用ChatGPT功能的电邮应用的更新,因为担心其可能生成不适合青少年儿童的内容。

如何避免AI做出违反伦理道德的回答一直是生成式AI面临的挑战。

而在上述报道的前一天,OpenAI推出了官方的ChatGPT应用程序接口(API),成本直降90%,且比ChatGPT及其背后的GPT-3.5 模型“更快、更准确、更强大”。OpenAI同时还推出了语音转文字的Whisper API,一分钟只需要0.006美元。

OpenAI表示,公司在ChatGPT API中引入了新的语言,希望能通过加入更多提示限制来过滤不当内容。

出于内容担忧,苹果暂停一应用更新

面对生成式AI热潮,苹果似乎要小心谨慎得多。据路透社报道,苹果上周阻止了采用ChatGPT功能的电邮应用程序BlueMail的更新,因为担心其产生对青少年儿童不当的内容。

据悉,BlueMail的新AI功能以ChatGPT为基础,能够基于先前电邮的内容和日历事件自动编写邮件。

“你的应用程序包含人工智能生成的内容,但目前似乎不包含内容过滤,”苹果应用程序审查团队上周在给开发者的消息中表示。

应用程序审查团队认为,BlueMail要么将其年龄限制提高到17 岁及以上,要么加入内容过滤程序。苹果设置17岁及以上用户的年龄限制针对的是可能包含攻击性语言、性内容和提及毒品等内容的应用程序类别。

BlueMail开发公司Blix Inc.的联合创始人Ben Volach表示,BlueMail具有内容过滤的功能,目前将年龄设置在4岁及以上。Volach认为苹果的做法不公平,因为其他包含类似AI功能的应用没有设置年龄限制却得到了批准。

“Apple让我们很难为用户带来创新,”他表示,“我们要的是公平。如果我们要设置17岁以上的年龄限制,其他应用也该如此。”他同时称,BlueMail的安卓版在谷歌应用市场就可以更新,无需设置年龄限制,也不需要进一步的内容过滤机制。

苹果发言人表示,开发者可通过苹果应用程序审查委员会的上诉程序发起申诉,苹果方面正在调查Blix的申诉。

投资了ChatGPT开发公司OpenAI的微软近日上线了融合ChatGPT功能的新版搜索引擎必应。该程序在苹果应用市场设置了17岁及以上的年龄限制,但也没有在谷歌应用市场设置年龄限制。微软发言人表示,之所以设置17岁及以上的年龄限制,是因为必应可以找到成人内容。

ChatGPT API新模型有望更好过滤内容

在媒体爆出苹果限制BlueMail更新的前一天,OpenAI宣布推出ChatGPT以及语音转换文本模型Whisper的应用程序接口(API)。两个API价格低廉,功能强大,第三方开发人员可以通过 API 的方式将 ChatGPT 集成到他们的应用程序和服务中。

据OpenAI,ChatGPT API接入的模型名为 gpt-3.5-turbo,这是许多非聊天用例的最佳模型,而且比 ChatGPT 和背后的GPT- 3.5 模型“更快、更准确、更强大”,且每输出100万个单词,价格才2.7美元(约18元人民币),比之前的GPT-3.5便宜了10倍。Whisper API可以用来转录或翻译音频,费用为每分钟0.006美元。

目前,已经有多个应用程序通过API的方式把ChatGPT和Whisper融入到服务之中,如社交软件SnapChat,购物软件Instacart,学习软件Quizlet和Speak等。

此前,ChatGPT爆火之后,各种「自制API」层出不穷,但效果欠佳且成本较高。此次OpenAI开放官方的低价API,为各类中小型开发者打开了新的大门。

官方API虽然在功能和价格上又上了一层楼,但在ChatGPT API推出后,有网友马上发现,这个API的内容过滤机制是比较松散的,可以生成暴力和色情内容,只是对“如何制造炸弹”一类的问题拒绝回答。

实际上,围绕生成式AI的道德争议一直是OpenAI面临的挑战。此前就有用户引导ChatGPT生成种族和性别歧视的回答,更有许多网友聚在一起做“越狱”尝试,希望找出绕过OpenAI的安全机制,让ChatGPT执行超出其原初目标的任务。比如,初创公司Scale AI的一名员工就曾让ChatGPT透露了其内部的技术细节信息。

对于重视品牌形象的客户而言,这样的风险当然是必须回避的。OpenAI在这方面也做了很多工作,除了让廉价的肯尼亚工厂做数据标注外,在技术上也做了一些努力。

据科技媒体TechCrunch报道,ChatGPT的API采用了一种名为Chat Markup Language(ChatML)的语言,这种语言将输入文本视为一连串信息和“元数据”的结合。开发者在接收提问提示(prompt)时,可以加入额外的提示,如“你需要诚实回答”,或者“你只是一个机器人”。这些额外提示可以让ChatGPT更好地过滤生成的内容。

“我们正在转向一种更高级的API。如果你能够以更加结构化的方式将输入内容放进系统,比如‘这是来自开发者’或者‘这是来自用户’……我想,作为开发者,你(使用ChatML)可以更好地抵御那些通过提示进行攻击的行为,”OpenAI的主席和董事长Greg Brockman表示。

此外,ChatGPT API还向用户提供付费的专属算力(Dedicated capacity),付钱的大公司不仅可以拥有更加流畅快速的应答,还可以获得更高的文字输入上限,这样可以让ChatGPT记住更多的上下文提示,将减少回答中的偏见和有害内容。据Brockman,专属算力用户可以在gpt-3.5-turbo模型中输入高达1.6万的token,是现有标准ChatGPT模型的四倍。

每日经济新闻

本文来自网络,不代表本站立场,转载请注明出处:https:

苹果,限制,驱动,ChatGPT,BlueMail,风险,OpenAI,焦点,内容,应用,原创新闻,苹果,OpenAI,开发者,应用程序,年龄限制

中国投资网后续将为您提供丰富、全面的关于苹果,限制,驱动,ChatGPT,BlueMail,风险,OpenAI,焦点,内容,应用,原创新闻,苹果,OpenAI,开发者,应用程序,年龄限制内容,让您第一时间了解到关于苹果,限制,驱动,ChatGPT,BlueMail,风险,OpenAI,焦点,内容,应用,原创新闻,苹果,OpenAI,开发者,应用程序,年龄限制的热门信息。小编将持续从百度新闻、搜狗百科、微博热搜、知乎热门问答以及部分合作站点渠道收集和补充完善信息。