“담배 닮은 비눗방울도 걸러낸다”…와디즈, AI 기반 청소년 보호 시스템 강화

Source: VentureSquare

• 흡연 연상 표현·유해 우려 제품 선제 점검… 프로젝트 중단 및 구성 변경 조치

• AI 모니터링 운영 사례 공개하며 플랫폼 투명성 제고

크라우드펀딩 플랫폼이 단순 거래 중개를 넘어 이용자 보호 체계 강화에 나서고 있다. 특히 청소년에게 부적절한 영향을 줄 수 있는 표현과 제품에 대한 사전 점검 범위를 확대하며 안전한 플랫폼 환경 조성에 집중하는 모습이다.

와디즈는 AI 기반 모니터링 시스템을 활용해 청소년 보호 조치를 강화하고, 실제 운영 사례를 담은 투명성 보고서를 공개했다.

최근 와디즈는 프로젝트 모니터링 과정에서 담배를 연상시키는 형태의 비눗방울 제품을 확인했다. 해당 프로젝트는 제품 외형뿐 아니라 사용 장면까지 흡연 행위를 떠올릴 수 있도록 구성돼 있어 청소년에게 부적절한 인식을 줄 가능성이 있다고 판단됐다.

이에 플랫폼은 AI 모니터링 결과와 운영진 검토를 종합해 프로젝트를 중단하고 비노출 처리했다. 관련 사유는 프로젝트 개설자에게 별도로 안내됐다.

와디즈, AI 모니터링 기반 청소년 보호 확대 (자료 제공: 와디즈)

AI와 운영진이 함께 검토하는 이용자 보호 체계

또 다른 사례로는 일부 프로젝트가 라이터를 사은품으로 제공한 경우가 있었다.

와디즈는 해당 구성 역시 흡연을 연상시킬 수 있다는 점에 주목해 청소년 보호 관점에서 검토를 진행했다. 이후 프로젝트 운영자와 협의를 거쳐 사은품 구성을 변경하는 등 선제적인 조치가 이뤄졌다.

이 같은 사례는 모두 AI 모니터링 과정에서 먼저 포착된 뒤 운영진의 추가 검토를 거쳐 최종 결정됐다.

회사는 플랫폼 운영 과정에서 발생하는 주요 조치 사례와 정책 적용 결과를 정리한 투명성 보고서를 매주 공개하고 있다. 이용자와 프로젝트 개설자가 플랫폼 운영 원칙을 확인할 수 있도록 하기 위한 취지다.

와디즈는 최근 AI 기술을 활용해 부적절한 표현과 허위·과장 정보, 이용자 보호 이슈 등을 사전에 탐지하는 체계를 확대하고 있으며, 청소년 보호 역시 주요 관리 영역 중 하나로 운영하고 있다.

허지은 와디즈 COO는 “청소년 보호는 플랫폼이 지속적으로 책임감을 갖고 관리해야 하는 중요한 과제”라며 “AI 모니터링과 운영 정책을 지속적으로 고도화해 이용자 신뢰를 높이고 건강한 펀딩 생태계를 만들어 나가겠다”고 말했다.

한편 와디즈는 운영 과정에서 발생한 정책 적용 사례와 조치 현황을 담은 투명성 리포트를 정기적으로 공개하고 있으며, 관련 내용은 메이커센터를 통해 확인할 수 있다.

“Filters out even soap bubbles resembling cigarettes”… Wadiz strengthens AI-based youth protection system

Crowdfunding platforms are moving beyond simple transaction mediation to strengthen user protection systems. In particular, they are focusing on creating a safe platform environment by expanding the scope of pre-screening for expressions and products that could have an inappropriate influence on youth.

Wadiz has strengthened youth protection measures by utilizing an AI-based monitoring system and released a transparency report containing actual operational cases.

Recently, Wadiz discovered a bubble product shaped like a cigarette during the project monitoring process. It was determined that the project had the potential to give adolescents an inappropriate perception, as not only the product’s appearance but also the scene of its use was designed to evoke the act of smoking.

Accordingly, the platform suspended the project and removed it from public view based on a comprehensive review of AI monitoring results and management. The reason for this was separately notified to the project creator.

Wadiz Expands Youth Protection Based on AI Monitoring (Source: Wadiz)

User protection system reviewed jointly by AI and management

Another example is when some projects provided lighters as free gifts.

Wadiz noted that the composition could also evoke smoking and conducted a review from the perspective of youth protection. Subsequently, preemptive measures were taken, such as changing the composition of the free gifts after consultation with the project operator.

All of these cases were first detected during the AI monitoring process and then finalized after further review by the management team.

The company publishes a weekly transparency report summarizing key action cases and policy application results arising during platform operations. This is intended to allow users and project creators to verify the platform’s operating principles.

Wadiz has recently been expanding its system to detect inappropriate expressions, false or exaggerated information, and user protection issues in advance using AI technology, and is also operating youth protection as one of its major management areas.

Heo Ji-eun, COO of Wadiz, said, “Protecting youth is an important task that platforms must continuously manage with a sense of responsibility,” adding, “We will continuously enhance our AI monitoring and operational policies to increase user trust and build a healthy funding ecosystem.”

Meanwhile, Wadiz regularly publishes transparency reports containing policy application cases and the status of measures taken during operations, and related information can be found through the Maker Center.

「タバコに似た石鹸滴もろ過する」…ワディーズ、AIベースの青少年保護システムの強化

クラウドファンディングプラットフォームが単純取引仲介を超えて利用者保護体系の強化に乗り出している。特に青少年に不適切な影響を与える可能性のある表現や製品に対する事前点検の範囲を拡大し、安全なプラットフォーム環境づくりに集中する姿だ。

ワディーズはAIベースのモニタリングシステムを活用して青少年保護措置を強化し、実際の運用事例を盛り込んだ透明性報告書を公開した。

最近、ワディーズはプロジェクトモニタリングの過程でタバコを連想させる形の石鹸滴製品を確認した。このプロジェクトは製品の見た目だけでなく、使用シーンまで喫煙行為を思い浮かべるように構成されており、青少年に不適切な認識を与える可能性があると判断された。

これにプラットフォームはAIモニタリング結果と運営陣レビューを総合してプロジェクトを中断して非露出処理した。関連事由はプロジェクト開設者に別途案内された。

ワディーズ、AIモニタリングベースの青少年保護の拡大（資料提供：ワディーズ）

AIと経営陣が共に検討する利用者保護体系

もう一つの例として、一部のプロジェクトがライターを贈り物として提供した場合があった。

ワディーズは該当構成も喫煙を連想させることができるという点に注目し、青少年保護の観点から検討を進めた。以後、プロジェクト運営者と協議を経て謝恩品の構成を変更するなど、先制的な措置がなされた。

このような事例はすべてAIモニタリング過程で先に捕捉された後、運営陣の追加検討を経て最終決定された。

同社は、プラットフォーム運営過程で発生する主な措置事例と政策適用結果をまとめた透明性報告書を毎週公開している。利用者とプロジェクト開設者がプラットフォーム運営原則を確認できるようにするための趣旨だ。

ワディーズは最近AI技術を活用して不適切な表現や虚偽・誇張情報、利用者保護問題などを事前に検出する体系を拡大しており、青少年保護も主要管理領域の一つとして運営している。

ハジはワディーズCOOは「青少年保護はプラットフォームが持続的に責任感を持って管理しなければならない重要な課題」とし「AIモニタリングと運営政策を継続的に高度化し、利用者の信頼を高め、健康なファンディングエコシステムを作っていく」と話した。

一方、ワディーズは運営過程で発生した政策適用事例と措置現況を盛り込んだ透明性レポートを定期的に公開しており、関連内容はメーカーセンターを通じて確認することができる。

“甚至能过滤掉形似香烟的肥皂泡”……Wadiz 加强了基于人工智能的青少年保护系统

众筹平台正从简单的交易中介转向加强用户保护体系。尤其值得一提的是，它们正致力于打造安全的平台环境，扩大对可能对青少年产生不良影响的言论和产品的预筛选范围。

瓦迪兹利用人工智能监控系统加强了青少年保护措施，并发布了一份包含实际操作案例的透明度报告。

最近，瓦迪兹在项目监测过程中发现了一款外形酷似香烟的泡泡产品。经评估，该项目有可能给青少年带来不恰当的认知，因为该产品不仅外观设计旨在模仿吸烟行为，其使用场景也同样如此。

因此，平台基于对人工智能监测结果和管理情况的全面审查，暂停了该项目并将其从公开页面移除。具体原因已另行通知项目创建者。

Wadiz 扩大基于人工智能监控的青少年保护范围（来源：Wadiz）

由人工智能和管理团队共同审查的用户保护系统

另一个例子是，有些项目会提供打火机作为免费赠品。

瓦迪兹指出，赠品的成分可能会让人联想到吸烟，因此从保护青少年的角度进行了审查。随后，在与项目运营方协商后，采取了预防措施，例如更改了赠品的成分。

所有这些案例最初都是在人工智能监控过程中发现的，然后经过管理团队的进一步审查后最终确定。

公司每周发布一份透明度报告，总结平台运营过程中出现的关键案例和政策实施结果。此举旨在让用户和项目创建者能够核实平台的运营原则。

Wadiz 近期一直在扩展其系统，利用人工智能技术提前检测不当言论、虚假或夸大信息以及用户保护问题，并将青少年保护作为其主要管理领域之一。

Wadiz 首席运营官许智恩表示：“保护青少年是平台必须持续承担责任的重要任务。”她补充道：“我们将不断加强人工智能监控和运营政策，以提高用户信任度，并构建健康的资金生态系统。”

与此同时，瓦迪兹定期发布透明度报告，其中包含政策应用案例和运营过程中采取的措施的进展情况，相关信息可通过创客中心获取。

« Filtre même les bulles de savon ressemblant à des cigarettes »… Wadiz renforce son système de protection de la jeunesse basé sur l’IA

Les plateformes de financement participatif ne se contentent plus d’intervenir dans les transactions ; elles renforcent leurs systèmes de protection des utilisateurs. Elles s’attachent notamment à créer un environnement sécurisé en élargissant le champ de la vérification préalable des contenus et des produits susceptibles d’avoir une influence néfaste sur les jeunes.

Wadiz a renforcé ses mesures de protection de la jeunesse en utilisant un système de surveillance basé sur l’IA et a publié un rapport de transparence contenant des cas opérationnels concrets.

Récemment, lors du suivi d’un projet, Wadiz a découvert un produit à bulles en forme de cigarette. Il a été constaté que ce projet risquait d’induire les adolescents en erreur, car non seulement l’apparence du produit, mais aussi la mise en scène de son utilisation étaient conçues pour évoquer l’acte de fumer.

En conséquence, la plateforme a suspendu le projet et l’a retiré de la vue du public suite à un examen approfondi des résultats de la surveillance et de la gestion de l’IA. Le créateur du projet a été informé séparément des raisons de cette décision.

Wadiz renforce la protection des jeunes grâce à la surveillance par IA (Source : Wadiz)

Système de protection des utilisateurs examiné conjointement par l’IA et la direction

Un autre exemple est celui de certains projets qui offraient des briquets en cadeau.

Wadiz a constaté que la composition pouvait également inciter au tabagisme et a mené une étude du point de vue de la protection de la jeunesse. Par conséquent, des mesures préventives ont été prises, notamment la modification de la composition des cadeaux offerts après consultation avec le responsable du projet.

Tous ces cas ont d’abord été détectés lors du processus de surveillance par IA, puis finalisés après un examen plus approfondi par l’équipe de direction.

L’entreprise publie chaque semaine un rapport de transparence résumant les principaux cas d’action et les résultats de l’application des politiques survenus lors des opérations de la plateforme. Ce rapport vise à permettre aux utilisateurs et aux créateurs de projets de vérifier les principes de fonctionnement de la plateforme.

Wadiz a récemment étendu son système pour détecter à l’avance les expressions inappropriées, les informations fausses ou exagérées et les problèmes de protection des utilisateurs grâce à la technologie de l’IA, et gère également la protection des jeunes comme l’un de ses principaux domaines d’intervention.

Heo Ji-eun, directrice des opérations de Wadiz, a déclaré : « La protection de la jeunesse est une tâche importante que les plateformes doivent gérer en permanence avec un sens des responsabilités », ajoutant : « Nous améliorerons continuellement notre surveillance par IA et nos politiques opérationnelles afin d’accroître la confiance des utilisateurs et de construire un écosystème de financement sain. »

Par ailleurs, Wadiz publie régulièrement des rapports de transparence contenant des cas d’application de sa politique et l’état d’avancement des mesures prises au cours des opérations ; les informations connexes peuvent être consultées via le Maker Center.