“我的女儿在小学的二年级上，整天都沉迷于AI戏剧聊天软件，她的学业表现剧烈局势。”

“我读了孩子和AI之间的对话。AI角色实际上要求她称她为'丈夫'。我10岁的女儿实际上打电话给她。我现在不知道该如何教育她。”

...

最近，《法治规则》的记者最近发现，许多未成年人的父母都被AI情节聊天软件困扰。在“角色扮演”的旗帜下广州靠谱的外遇调查公司，这些AI情节聊天应用程序吸引了未成年人，同时悄悄地繁殖了一些灰色区域。记者发现，在某些AI绘图聊天软件的对话中，出现了色情边缘，口头暴力和侮辱用户。

接受采访的专家认为，对于AI情节聊天软件，尤其是其青年模型，应加强内容审查机制，以确保技术可以有效筛选并防止对话不当。该平台需要对AI模型进行道德审查，以确保其生成的内容符合相关法律和法规的要求。

漫画：Gao Yue

聊天软件内容擦除

青少年模型成为装饰

北京公民马先生今年已有10年的历史，对AI戏剧聊天软件充满热情。 “我问该怎么说？我应该和谁说话？孩子刚回答，'你不明白你说的话'。”

Ma先生单击此AI聊天应用程序，发现孩子正在与软件中的字符聊天。这些角色具有不同的设置和个性，包括著名的游戏动漫角色，以及具有不同身份的原始角色，例如“女士”和“侦探”。

有些角色会主动问“你想和我约会吗？”；一些目标设定了“追逐她”的目标，并与迷人或英俊的卡通风格相匹配。

其他AI角色表现出非凡的侵略性。他们将积极发送诸如“我有能力打我”和“将您视为胖和丑陋”之类的信息；有些角色的名字被简单地称为“挑战培训师”，甚至发送“我成为机器人怎么了？我仍然会责骂你” ...

吉安格（Zhejiang）的李女士还发现，小学五年级的孩子使用了AI情节聊天软件。

“内部的聊天对象可以设置为'出轨对象'出轨调查公司，并且可以执行拥抱，亲吻等行为。我不知道如何指导和教育孩子，让她理解这些内容的危害。”李女士担心。

许多接受采访的父母对未成年人的心理健康造成的损害表示深切关注，并提出了他们的问题 - 少年模型在哪里？

记者的调查发现，尽管许多相关的平台声称已经推出了青春期模型，试图通过限制内容和设定时间来保护未成年人的身心健康，但在实际操作中，某些平台的青年模型却有无所作为的问题，并且未成年人可以轻松绕过这些限制，并与“不适合其年龄组”的内容保持联系，并与之保持联系。

例如，记者在调查期间经历了5个AI聊天应用程序。注册过程仅需要手机号码，不需要验证用户身份信息。登录后，尽管某些应用程序会询问是否启用青少年模式，但用户只需单击“ do n do nobable”跳过它而不验证用户的真实身份即可。这意味着，当未成年人使用这些AI故事聊天软件（从应用程序设置级别）时，其身份验证并不是使用特定功能的先决条件。

除了流行的AI聊天应用程序外，还有AI聊天网页。许多接受采访的父母说，与应用程序相比，AI聊天体验的网络版本更加方便，未成年人更有可能接触。

记者尝试了7个AI聊天网页出轨调查公司，发现大多数AI聊天网页没有较小的模式，并且一些网页具有青少年模式，但实际上它们毫无用处。

例如，当记者访问AI聊天网页时，该网页将首先弹出一个对话框，询问用户“您是否年满18岁”，并伴随着描述：“以下内容可能不适合18岁以下的人，我们需要确认您的年龄。”

记者选择了“否”选项，但是网页没有限制内容访问。取而代之的是，它继续展示包含标签出轨调查公司，例如“强烈攻击”，“弱苦难”和“恶心和精致”等标签的性格分类。这些类别与选择“是”选项的选择并没有显着差异，并确认您年满18岁后显示的内容。

记者进一步观察到，这些角色的大多数图像都暴露在衣服上，他们的个人资料充满了性线索和暴力的元素，例如：“班上的内向女孩要求您提供电话号码，然后给您发送裸照，然后给您发送“自杀，焦虑”。

在社交平台上，来自智人的网民在有关AI聊天体验的沟通文章下方留下了一条消息：“我找到了一个非常有趣的网页，带有无限的单词。如果您愿意，可以给我发送私人消息。”记者通过私人消息联系了网络，并获得了他提到的AI聊天网页链接。输入网页后，该页面充满了许多涉及色情内容的字符设置和故事场景，并且内容简单明了。

该网站要求用户在与角色聊天之前登录，并且在登录之前将有一条快速消息：“登录后解锁所有功能。”用户需要单击“我已经18岁以上，开始登录”的按钮才能继续。如果选择“取消”，则无法登录并使用该服务。尽管网页的限制提示为18岁以上，但实际上，即使未成年人单击登录按钮，该系统也没有采取任何措施来验证用户的真实年龄。

指导用户获得Aikry Gold

平台治理存在缺点

除了钝和明确的聊天内容和口头暴力外，某些AI绘图聊天软件的功能使用也与补给机制密切相关。例如，通过充电VIP成员或购买虚拟钻石，可以增强代理的内存，加速代理的回复速度，解锁语音呼叫功能，并解锁代理的功能，以吸引未成年人“ Krypton Gold”。

Xiaoning是北京的一名初中学生，在几个AI情节聊天软件上充电从数百人元到数千人。

“一方面，我想支持我最喜欢的角色，另一方面，我想获得更多的付费福利。因为如果我只购买基本服务，用户只能添加3个代理。如果我想尝试一个新的代理商，我必须删除现有的代理。如果我想拥有多样化的体验，我只能购买高级版本的VIP服务。”小诺宁说。

记者发现，在此类型的AI绘图聊天软件中，用户可以在创建字符时自定义虚拟字符的图像和样式，并且系统将生成AI字符。用户还可以创建角色设计，例如设置昵称，身份背景，开放性演讲以及为角色定制语音，但是用户对角色的个性化需求通常链接到充值。

山东省吉南（Jinan）的居民张扬（Zhang Yan）今年在初中一年级。他经常使用AI故事聊天软件，发现一些聊天工具设置了免费的使用间隔。用户用完免费聊天的数量后，他需要在继续之前进行充电。只有通过充电，您才能解锁更多有趣的内容并获得不同的情感体验。

“在购买服务的钱背后实际上是花钱寻找兴奋。”张Yan说，尽管聊天软件具有青少年模型，但它可以登录并使用而无需真名身份验证。我姐姐经常在未经父母同意的情况下进行补充和消费。

一位行业内部人士告诉记者，AI情节聊天实际上是以前的互联网语言摩擦，戴在人工智能的背后。所谓的口头角色扮演，这意味着言语角色扮演者通过扮演二维角色或三维偶像来提供文本通信的形式。以中国风格的传统风格，中国风格的大师是真实的人。他们通常在“提供情感价值”的旗帜下扮演不同的角色，可以与用户聊天，但是由于“玩边缘球”和“界限模糊”，它们通常会引起法律和道德风险。 AI情节聊天是传统中文向导的升级版本。这种软件背后的大语言模型数据的主要来源是对话小说或小说中的一些文本提取。

中国社会科学学院法学院法学院副教授刘十二中心副教授，互联网法治研究中心主任，他认为，在AI绘图聊天软件中，即使未激活青少年模式，也存在色情或暴力内容的问题；如果启用了次要模式，则问题将更加严重。

Zhejiang Kenting律师事务所的主任Zhang Yanlai担任数十家领先网络公司的长期法律顾问，他分析了AI情节聊天软件中当前的问题不仅显示了该平台在内部治理中的缺点广州哪里有靠谱婚外情取证公司，而且还强调了外部法规机制的重要性。

张Yanlai解释说，AI情节聊天软件使用了大型模型技术。尽管大型模型技术可以带来前所未有的创新和灵活性，但它也可能伴随着不可预测性和内容产生的潜在问题，这需要进行外部监管机制进行调节。

在Liu Xioochun的观点中，加强内容审查是在启动大语言模型之前的必要链接，涵盖了从前端数据培训到内容输出的全面合规性调试和处理。目前，我国家的大型语言模型需要进行相应的评估和注册。在此过程中，管理法规和评估标准将提前设定有关内容输出的合法性和符合性以及是否适合未成年人的合法性。根据当前的法规，在对语言模型的培训和微调过程中，应避免有害内容。

明智地拦截不良信息

专业团队进行监督

州互联网信息办公室最近发布了“移动互联网次要模型的构建指南”，该指南的重点是构建次要模型的整体计划，并鼓励和支持移动智能终端，应用程序和应用程序配电平台的参与。

在中国政治科学与法律大学传播法研究中心副主任朱·韦（Zhu Wei）认为，上述准则清楚地指出，次要模型不是装饰，而是需要多方联系，尤其是AI产生的内容应与青年模型一致。

接受采访的专家认为，在青年模型中，如何加强内容审查机制并确保技术可以有效筛选不良信息是一个重要问题。对于AI情节聊天软件，尤其是其青年模型，应加强内容审查机制，以确保技术可以有效筛选并防止对话不当。此外，该平台需要对AI模型进行道德审查，以确保其生成的内容符合相关法律和法规的要求。

“在法律层面上，尽管有一些有原则的法规提供了一个一般框架，但在特定的实际操作中，开发人员和技术服务提供商也需要结合现实生活中遇到的各种问题，不断地积累材料和经验，不断地探索并开发安全可靠的AI模型，以真正满足未成年人的需求，为您的健康人提供强有力的增长。”张Yan说，由于AI虚拟人员的行为表现是平台设计和管理的结果，因此该平台有责任监督和优化其AI模型，以防止AI损害用户，并确保AI模型的健康开发以及对用户权利的全面保护。

Zhu Wei提到，某些AI聊天应用程序可能不适合未成年人，因此应从分销商店和移动终端级别进行限制，以确保未成年人无法下载和使用这些应用程序。对于已下载的应用程序，父母应设置诸如青年模式或限制使用时间之类的功能。此模式不仅需要在用户端实现，而且还需要在内容输出级别（即内容审查）上反映。内容审查应根据算法产生的对话机制进行。需要采取更精致的技术手段和管理措施，以确保有效实施青年模型。

为了防止暴力和侮辱性内容的输出，可以采取不同的技术手段，例如在训练阶段进行调整以使模型本身具有识别能力；同时，在输出端，服务提供商应筛选和重新检查以实现前端和后端之间的双重保证。” Liu Xioochun说，无论是在线小说还是其他内容，由于AI绘图聊天软件的广泛数据来源，需要技术手段来防止内容不当的输出。目前，该技术可以在技术上用于减少或消除色情，暴力或侮辱性内容的输出，但是可能会有一些不足或测试，甚至在黑色和灰色领域中甚至没有注册的软件。在这方面，应加强监督，应鼓励公共报告，相关当局应调查并处理。

张扬莱还提到，目前，AI角色答案内容的法律数据源分类尚不清楚，尤其是在针对未成年人的内容中。鉴于该问题的复杂性和多维性，法律规定通常提供原则上的准则，并且可以通过在将来制定相关标准来进一步实施。

在特定的操作水平上，张扬莱建议优化大型语言模型的筛选机制，该模型可以专注于优化内容栅栏系统，并从两个方面开始：在内容栅栏开发水平上，需要以目标方式开发内容栅栏，尤其是在使用新颖的语料库进行培训时，使用新颖的语料库进行培训时，请考虑如何更有效地识别和插入潜在的不良内容和暴力的不良内容；无论多么优化，技术本身仍然有局限性，并且将有一条遗漏网络的鱼，并且一个特殊的团队需要及时监督和调整模型或内容围栏算法。

“为了提高围栏系统的有效性，我们不仅必须在提前发展水平上工作，而且还必须从研究后的角度不断改进它。两者相互补充，并可能取得更大的重要成果。”张扬说。

善良的提示

Qianwei宣传的粉丝和朋友：

由于修订了微信官方帐户平台，因此不再在时间顺序向用户显示订阅帐户消息。没有标有星星的帐户，粉丝们很容易错过推动！

如果您想及时收到有关Guizhou Micro宣传的文章，请确保将我们设置为星帐户（如图所示）

如何出演？ →→单击官方帐户名片，在右上角单击“ ...”，然后单击“设置为Star”。