这个大学交流平台,‘InSpace’,使用TensorFlow.js作为聊天中的毒性过滤器

0
593
//inspace.chat/

在太空 是一个虚拟的交流和学习平台。它可以帮助人们以熟悉的物理方式(在虚拟世界中)进行交互,协作和教育。它旨在体验真实教室的流畅,个性化和互动性。它可以帮助参与者摆脱困境 “ Brady Bunch”盒子 在现有的会议解决方案中创建一个有趣,自然和引人入胜的环境,其中涉及交互和协作。

  • 视频圈 每个可以在空间中自由移动的人。它可以帮助彼此相邻的人听到并参与对话,并且随着距离的增加,音频逐渐消失,从而使用户可以找到新的对话。
  • 视觉社交线索 可以看作是参与者缩小时;他们可以看到整个空间。人们可以从课堂讨论平稳地切换到私人对话或基于小组/团队的工作,类似于实验室或教室。
  • 老师的对话 与大家在一起很顺利。他们可以在单个学生和小组之间移动以进行更多私人讨论。他们可以将一群学生放在隔离音频的房间中进行协作,同时仍属于一个虚拟空间。
//www.youtube.com/watch?time_continue=55&v=L2Ko9QLJMNU

TensorFlow的协作

TensorFlow是一个协作平台,提供了一种机制来帮助警告用户发送和接收有毒消息或不适当的垃圾邮件。

广告Coursera Plus标语,包含约翰·霍普金斯大学,谷歌和密歇根大学的课程,突出显示数据科学职业发展的内容

识别有毒评论的简单方法是检查单词列表,包括亵渎行为。但是,更广泛的动机是不仅要根据消息中包含的单词来识别有毒消息,还要识别上下文。因此,有一个预先训练的机器学习模型 毒性 detection in TensorFlow.js 可以轻松集成到InSpace的平台中。此模型完全在浏览器中运行,可帮助警告用户不要发送有毒评论,而无需存储或处理其消息。

从性能角度来看,研究人员发现,在浏览器的主线程中运行毒性过程会对用户体验产生不利影响。因此,决定使用 网络工作者API to 单独的消息毒性检测 从主应用程序中分离出来,从而使流程独立且无阻塞。

Web Workers通过发送和接收消息连接到主应用程序,在其中可以包装其数据。当用户发送消息时,它会自动添加到队列中,并从主应用程序发送到Web Worker。从主应用程序收到消息后,Web Worker将开始对消息进行分类,并在输出准备就绪后将结果发送回主应用程序。根据Web工作人员的结果,主应用程序要么将消息发送给所有参与者,要么警告用户该消息有毒。

//blog.tensorflow.org/2020/12/inspace-new-video-conferencing-platform-uses-tensorflowjs-for-toxicity-filters-in-chat.html

因此,毒性检测器可以直接将包装与应用程序集成在一起,并且不需要对现有架构进行重大更改。主应用程序仅需要一个小的“连接器”,并且过滤器的逻辑被写入单独的文件中。

在太空 chat: //inspace.chat

资源: //blog.tensorflow.org/2020/12/inspace-new-video-conferencing-platform-uses-tensorflowjs-for-toxicity-filters-in-chat.html

广告

发表评论

请输入您的评论!
请在这里输入您的名字

该网站使用Akismet减少垃圾邮件。 了解如何处理您的评论数据.