微软推出了一项名为Azure AI Content Safety的新型AI驱动的审核服务，旨在检测图像和文本中的不当内容。该模型可以理解8种语言的文本，并对标记内容分配严重程度评分，指示需要审核员采取行动的内容。该工具可保护免受有偏见、性别歧视、种族主义、仇恨、暴力和自残等内容侵害。定价从每1000张图片1.50美元和每1000条文本记录0.75美元起。然而，由于注释者在训练数据集上添加标签存在偏差问题，因此人们对这类工具的准确性表示担忧。