Estoy creando un sitio web donde los usuarios pueden subir videos. ¿Cómo puedo evitar que los usuarios carguen desnudos? ¿Hay algún algoritmo para eso o alguna solución?

Sí, hay una solución Creas un sistema donde otros usuarios pueden marcar desnudos y contratas a un equipo de moderadores para buscar desnudos y eliminar videos.

Ah, y sé transparente sobre el proceso. Tenga una manera de comunicarse con sus usuarios cuyos videos han sido marcados. Cree un proceso de resolución de disputas para cuando sus moderadores eliminen videos de manera incorrecta, lo que sucederá. Defina claramente qué “desnudez” hay en sus políticas. ¿Cuenta un video de una persona en tanga? ¿Qué tal un video de pinturas de desnudos en el Museo Metropolitano de Arte?

No hay forma de hacer esto automáticamente. No puedes decir

<? php foreach (video como $ contiene desnudez)
{
DeleteVideo;
warnUser;
}
?>

No funciona de esa manera.

Mira, acabas de descubrir algo realmente importante que la mayoría de los técnicos y programadores nunca descubren. Cualquiera puede hacer un sitio para compartir videos. Soy un programador de PHP basura y puedo crear un sitio para compartir videos en un día. Los desafíos de crear un sitio para compartir videos no son técnicos. El trabajo real y el gasto de un sitio para compartir videos no es el código del servidor o las bases de datos.

El verdadero trabajo en un sitio para compartir videos son las políticas y las personas. Creación de políticas de contenido. Creación de una política de infracción de derechos de autor. Creando una política sobre la desnudez. Contratación de moderadores. Contratando gerentes. Comunicar sus políticas a sus usuarios. Contratación de personas para manejar disputas. Contratación de abogados que conocen la ley de derechos de autor.

Cualquiera puede crear un sitio web que permita a las personas compartir videos. Mi madre puede hacer eso y tiene más de 70 años.

Te estás centrando en lo incorrecto. ¿Cuál es su plan para contratar personas y establecer reglas? ¿Cuál es su modelo de ingresos? ¿Cuántas personas necesitas contratar por cada 10,000 videos subidos? ¿Desea verificar cada video o esperar hasta que los usuarios marquen un video antes de que lo vea? ¿Permitirá a los usuarios subir videos privados? ¿Tienes un moderador que los revise también? ¿Cómo te aseguras de que los videos no tengan derechos de autor? ¿Conoces tu exposición legal si tus usuarios suben videos con derechos de autor? (Lo harán.) ¿Tiene una idea clara y específica en su cabeza sobre lo que constituye “desnudez”? ¿Incluye arte? ¿Incluye pinturas? ¿Incluye famosos desnudos de bellas artes? ¿Incluye esculturas? ¿Prohibirás un video del David de Michaelangelo ?

Sí. Hay algoritmos para hacer esto. El más notable que me viene a la mente es nude.js (no estoy bromeando).

Creo que a una escala suficiente sería extremadamente útil tener un sistema automatizado para marcar videos para la verificación, ya que podría reducir drásticamente la cantidad de lanzamientos con desnudez independientemente de la participación del usuario, y podría reducir la cantidad de personas necesarias para encontrar dichos videos.

No los eliminaría sin verificación humana, solo los pondría para su verificación.

Tenga en cuenta eso y cree una lista de términos para términos de uso común vinculados con ese tipo de contenido en el título, la descripción, las etiquetas, etc. y debería poder cubrir una red amplia con recursos mínimos.

Si está buscando una solución basada en API, puede consultar Sightengine.com

Es una solución automatizada para detectar cosas como contenido para adultos , violencia, celebridades en imágenes y videos .

La API analiza videos más rápido que los humanos. En los videos en vivo, las verificaciones de moderación se realizan en tiempo real. Crezca fácilmente a millones de videos por mes y miles de transmisiones simultáneas.

Aquí hay un ejemplo en PHP, usando el SDK:

$ client = new SightengineClient (‘{api_user}’, ‘{api_secret}’);
$ cliente-> cheque ([‘desnudez’]) -> video (‘ https://d3m9459r9kwism.cloudfront.net/stream/examples/funfair.mp4&#039 ;,’ https://example.com/yourcallback&#039 😉

La salida devolverá la clasificación. Un ejemplo:

{
“medios”: {
“id”: “med_1N0OMfhDR6lkfa8uzgLop”, “uri”: ” https://d3m9459r9kwism.cloudfront.net/stream/examples/funfair.mp4&quot ;
},
“request”: “req_1N0ONgcBn6j5WozgPM0Es”,
“datos”: {
“Estado: Finalizado”,
“iniciado”: 1508832872.0789,
“marcos”: [{
“información”: {
“posición”: 0,
“id”: “med_1N0OMfhDR6lkfa8uzgLop_1”
},
“desnudez”: {
“crudo”: 0.04187,
“seguro”: 0.949647,
“parcial”: 0.008483
},
},
“información”: {
“posición”: 1000,
“id”: “med_1N0OMfhDR6lkfa8uzgLop_2”
},
“desnudez”: {
“crudo”: 0.04658,
“seguro”: 0.943894,
“parcial”: 0.009526
},
},

]
}
}

Puedes probar la página de demostración: Demo

(descargo de responsabilidad: yo trabajo allí)

More Interesting

Me encanta la forma en que el texto se desliza en este sitio http://riiotlabs.com/fr/accueil. ¿Se logra esto usando js css? ¿Qué tutorial puede ser de ayuda?

Como aficionado al diseño y desarrollo web, quiero crear mi nuevo sitio web con WordPress. ¿Cómo podría configurar esto mientras mi dominio todavía está alojado en otra plataforma y migrarlo rápidamente a WordPress, con poco tiempo de inactividad?

Quiero hacer un sitio similar a LinkedIn. Sin embargo, no estoy seguro de los pasos que necesito para hacer esto. ¿Alguien puede ayudarme con un punto de partida para esto?

Ahora estoy trabajando como aprendiz en Python y Django. ¿Crees que esta combinación está lista para superar a la pila LAMP en el desarrollo web?

Soy un desarrollador de Winform / WPF. ¿Qué debo aprender para convertirme en desarrollador de aplicaciones web en ASP .NET 5 o Meteor?

Soy nuevo en codificación / programación. Estoy aprendiendo HTML, CSS, JavaScript, etc. ¿Cómo me ayudará GitHub?

Aprendí HTML y CSS y ahora estoy aprendiendo JavaScript. ¿Cómo construyo un sitio que mantenga las opciones del usuario?

Estoy comenzando un portal de videos en el cual los usuarios suben videos. Quiero un reproductor de video web con tecnología de velocidad de bits adaptable. ¿Cuál es la mejor tecnología y reproductor para usarlo en cualquier dispositivo como YouTube? ¿Cual será el costo?

Me estoy enseñando a codificar como un hobby y sé HTML, CSS y algunos jQuery / JS. ¿Cuáles son algunos proyectos front-end que podría intentar construir para ponerme a prueba?

Quiero aprender cualquier lenguaje de script del lado del servidor. ¿Debo usar PHP o Spring MVC? Si estoy aprendiendo Spring, ¿es bueno si obtengo una certificación? ¿Cuál va a tener más demanda en el futuro?

Soy una persona sin tecnología que quiere aprender a codificar para poder crear un negocio como Facebook, Airbnb, Uber, Twitter, etc. ¿Qué debo aprender?

Soy estudiante de primer año de ingeniería eléctrica. Estoy realmente interesado en el desarrollo web, el procesamiento de imágenes y el desarrollo de software. ¿Qué debo hacer en el verano para desarrollar suficientes habilidades?

He creado un nuevo sitio web y quiero mostrarlo a todos los entusiastas de la tecnología, ¿cómo puedo hacerlo? No quiero gastar dinero en esta etapa.

Sé JS y ReactJS. ¿Cuál debería ser mi próximo paso?

Cómo construir un sistema de gestión de asistencia usando Python