作者：克莱尔·达菲，（CNN）

卡兰迪普·阿南德5岁的女儿放学回家后，他们会打开人工智能聊天机器人平台Character.AI，这样她就可以和自己最喜欢的角色，比如“图书管理员琳达”，聊聊她一天的经历。

鉴于阿南德现在已成为Character.AI的新任首席执行官，他作为家长使用该产品的经历或许会有所帮助。公司上个月宣布了这一变动。

他在公司发展的复杂时刻接任这一最高职位，该公司允许用户与各种人工智能生成的角色进行对话。Character.AI在竞争日益激烈的市场中面临着激烈竞争，同时还面临着一些家庭的诉讼，这些家庭称该服务让他们的孩子接触到了不适当内容，且未能实施足够的保护措施。

Character.AI也收到了立法者关于安全性的尖锐问题。今年早些时候，一个倡导组织表示，18岁以下的儿童不应使用人工智能陪伴应用程序。即使对于成年用户，专家也对人们可能与人工智能角色形成有害情感依恋发出了警告。

阿南德在一些大型科技公司积累的经验，对他领导Character.AI约70人团队的新角色很有帮助。他在微软工作了15年，在Meta工作了6年，包括在这家社交媒体巨头担任副总裁兼商业产品负责人。在加入Character.AI担任首席执行官之前，他还曾担任该公司的董事会顾问。

他告诉美国有线电视新闻网，他看到了该平台在交互式人工智能娱乐领域的光明未来。

换句话说，阿南德希望人们不要在社交媒体上消耗“无用内容”来娱乐，而是与Character.AI共同创作故事和对话来获得乐趣。

“人工智能可以带来一种非常、非常强大的个人娱乐体验，这与我们在过去10年社交媒体上看到的任何东西都不同，当然也与过去的电视节目截然不同。”阿南德在一次采访中表示。

上个月，Character.AI任命卡兰迪普·阿南德为其新任首席执行官。凯利通讯公司

与ChatGPT等多功能人工智能工具不同，Character.AI提供一系列不同的聊天机器人，这些机器人通常以名人和虚构角色为原型。用户还可以创建自己的聊天机器人进行对话或角色扮演。另一个区别是，Character.AI的机器人会以类似人类的对话提示进行回应，在回复中加入面部表情或手势的描述。

该应用程序上人工智能角色的人设差异很大，从浪漫伴侣到语言导师或迪士尼角色都有。它还设有像“《老友记》辣妈”这样的角色，其将自己描述为“身材曲线优美、胸部丰满、善良、有爱心、害羞、有母性、性感”；还有“治疗师”，其称自己是“有执照的认知行为疗法治疗师”，尽管它有一个免责声明，表明它不是真实的人或有执照的专业人士。

“（我们）将加倍投入娱乐领域，加倍关注信任和安全。”阿南德说，“我们想做的很多工作是围绕人工智能娱乐建立一个全新的创作者生态系统。”

Character.AI上的青少年安全问题

去年10月，一位家长首次起诉Character.AI。这位佛罗里达州的母亲称，她14岁的儿子在与该平台上的聊天机器人建立了不当关系后自杀身亡。两个月后，又有两个家庭对该公司提起联合诉讼，指控其向他们的孩子提供色情内容，并鼓励自残和暴力行为。

从那以后，该公司实施了一系列新的安全措施，包括一个弹出窗口，将提及自残或自杀的用户引导至全国预防自杀热线。它还为18岁以下的用户更新了人工智能模型，以降低他们遇到敏感或暗示性内容的可能性，并为家长提供了每周接收关于其青少年在该平台活动电子邮件的选项。

阿南德表示，他对Character.AI自去年以来所做的改进充满信心，但为了确保平台的安全，尤其是对年轻用户的安全，这项工作仍在继续。Character.AI的政策从技术层面要求用户年满13岁，尽管它不会要求提供信息来核实用户注册时填写的出生日期是否正确。

“技术、行业和用户群体都在不断发展，所以我们绝不能放松警惕。我们必须始终走在前沿。”阿南德说。

他补充说，公司继续测试人们可能如何滥用新功能以防止滥用情况发生，比如上个月推出的一款视频生成器，用户可以用它为自己的机器人制作动画。在该工具推出后的几天里，用户分享了他们试图测试其极限的失败尝试，比如制作埃隆·马斯克等知名人物的假视频。

“我们不得不对该产品进行长时间的模拟攻击测试，以确保你不能将其用于任何负面用途，比如深度伪造或欺凌。”阿南德说。

除了这些努力，阿南德在上个月给Character.AI用户的一封介绍信中表示，他的首要任务之一是让平台的安全过滤器“不那么苛刻”，并补充说“这款应用程序经常过滤掉完全无害的内容”。

他告诉美国有线电视新闻网，比如当用户参与“吸血鬼同人小说角色扮演”时提到的“血”（他说自己是这类内容的粉丝），在当前模型下可能会被审查，他希望更新该模型，以便在平衡安全需求的同时更好地理解上下文。

在竞争激烈的人工智能领域引领发展

阿南德的其他主要目标包括：鼓励更多创作者加入该平台，制作新的聊天机器人角色；升级社交动态页面，用户可以在上面分享他们用Character.AI聊天机器人创作的内容。

后者的功能类似于Meta今年推出的一款应用程序，该程序允许人们公开分享他们的提示词和人工智能生成的作品。Meta因显然困惑的用户分享包含尴尬或个人细节的对话而受到批评，这提醒人们人工智能工具可能带来的隐私挑战。

但社交元素可能有助于进一步将Character.AI与ChatGPT等更大的竞争对手区分开来，用户也越来越多地与ChatGPT建立个人联系。

阿南德担任首席执行官将面临的另一个挑战是留住和扩大公司的员工队伍，因为整个科技行业的人工智能人才大战正在升温。有迹象表明，为了争夺顶尖人才，据报道Meta提供了价值数亿美元的薪酬包和奖金，以壮大其新的超级智能团队。Character.AI的联合创始人兼前首席执行官诺姆·沙泽尔去年也被谷歌挖走，他之前在谷歌开发过对话式人工智能技术。

“这很难，我不会说谎。”阿南德说，“对我这个首席执行官来说，好消息是我们这里的所有人都非常、非常有热情，并且有使命感。”