如何从一段文本中检测是否包含有害内容?

0

【以下的问题经过翻译处理】 我们的网站中有一个HTML文本框,用户会在其中输入描述性文本。 我想知道应使用哪个AWS服务来检测用户输入的文本是否包含有害信息。

profile picture
专家
已提问 8 个月前19 查看次数
1 回答
0

【以下的回答经过翻译处理】 Amazon Comprehend是这项工作的最佳选择。您需要创建一个自定义分类器,其中可以将单词或短语定义为“有害的”。这样做是因为,被认为“有害”的内容因人而异,很难被准确定义。所以自定义分类器将是最好的选择。通过自定义分类,您可以定义单词或短语,并为它们指定标签进行模型训练,然后通过调用Comprehend推理API来确定文本是否包含相应的自定义标签。

profile picture
专家
已回答 8 个月前

您未登录。 登录 发布回答。

一个好的回答可以清楚地解答问题和提供建设性反馈,并能促进提问者的职业发展。

回答问题的准则