Contact our expert team today and get to know the technology of tomorrow!

Ensuring Clinical AI Safety at Scale

November 30, 2022
  • deepc, Centaur Labs, and Segmed form Radiology AI Safety Initiative
  • Post-market surveillance and continuous improvement of AI algorithms
  • Improving patient safety and clinical outcomes by enhancing AI performance

MUNICH / BOSTON / STANFORD

With AI becoming an integral part of clinical radiology workflows, the data used to develop AI algorithms is ever essential. An identified industry challenge is ensuring post-market surveillance of AI at scale, providing a foundation for the continued clinical safety and improvement of algorithms before and after clinical deployment. AI algorithms already need to meet high-performance standards for clearance by notified bodies such as the FDA. However, in some clinical scenarios, the performance of an AI algorithm may not meet expectations or degrade over time, e.g. due to different target patient populations or new scanner types. To identify such effects immediately, it is crucial to assess the performance of AI before and during its deployment in routine clinical use. In such cases, AI algorithms can then be re-trained on broader datasets, reflecting the target population, and making them more robust and safe. To address this need, deepc, Centaur Labs, and Segmed have joined forces and started a Radiology AI Safety Initiative to strengthen the continued AI performance in clinical workflows.

Three leaders in the field of Radiology AI have formed a novel AI Safety initiative to make AI algorithm use in clinical routines safer, as well as management and retraining easier.

MedTech company deepc with its leading radiology AI platform deepcOS offers radiologists access to a myriad of regulatory-cleared AI solutions from their globally leading partner network. Segmed provides secured, de-identified medical data, and Centaur Labs a labeling solution for such data. Collaborating with its AI Partners, deepc helps AI applications to fulfill the highest safety and performance standards. 

Customers that use deepcOS commonly seek validation and benchmarking assistance to identify the optimal performance of algorithms and pre-launch safety checks, offering surety of selection meeting the specific needs of the clinical environment. 

Segmed’s self-serve data platform Insight allows AI developers to build cohorts of de-identified and structured data that are readily available for training, testing, and validation of AI algorithms. 

Together with Centaur Labs, medical labeling services can be provided for given clinical indication fields to ensure safe operations of AI engines on specific customer data prior to deployment.

The companies are developing a joint offering. AI vendors will be able to perform real-time post-market surveillance via the deepcOS platform and identify when an AI model is performing suboptimally over time, a phenomenon that is often regarded as ‘AI drift’. This may be caused by a shifting patient population or new scanner types, for instance. deepc will avail this precise information to AI vendor partners and offer on-demand access to data that is anonymized and cleared for AI R&D through Segmed's data platform, and annotated by Centaur Lab's scalable data annotation platform. This data can be used to retrain the AI algorithm, improve performance, robustness, and clinical AI safety. Obtaining diverse, relevant data and labeling this data are two of the biggest bottlenecks in AI pipelines, solved by deepc’s partners Segmed and Centaur Labs.

Erik Duhaime, CEO of Centaur Labs, says: “Providing the ability to identify model weaknesses through deepcOS and correct them quickly in our joint offering is a huge step forward in scaling AI to clinical mass adoption.”

Dr. Martin Willemink, CEO of Segmed, adds: ”Building upon the partnership with deepc, we are excited to provide an end-to-end solution giving access to our standardized, high-quality datasets, sourced from our data partners worldwide - this way, we are enabling AI companies to make their products the best in the market and reduce bias in AI algorithms.”

“An outstanding effort of our companies leads to improved clinical AI safety, eventually leading to better clinical outcomes and increased patient safety. We are very proud to be leading this very important initiative in the industry”, says deepc’s Co-Founder and CEO Dr. Franz Pfister.

Press contact:
Natalie Erdmann | CMO
natalie.erdmann@deepc.ai

deepc has developed the radiology AI platform deepcOS, providing Clinicians with effortless access to a myriad of regulatory-approved globally leading AI solutions for more than 35 clinical indications, delivering more efficient workflows offering radiologists assistance in their daily routine. Deepc enables easy and fast installation, end-to-end integration, unified contract unified support and billing, service, and comprehensive privacy & security framework. www.deepc.ai

Centaur Labs has developed the leading scalable data annotation platform for the medical and life sciences industries. The platform has turned biomedical data annotation into a competitive sport - generating 2 million high quality annotations weekly from a proprietary network of tens of thousands of subject-matter experts. Centaur Labs annotates a wide variety of data - from unstructured clinical notes, to radiographic images, to waveforms, and more. www.centaurlabs.com

Segmed offers clinicians, researchers, and AI developers access to de-identified real world imaging data, which includes DICOMs, reports, and EMR data. Segmed partners with healthcare institutions across 5 continents, standardizes and de-identifies data via a sequence of proprietary algorithms; and allows users to build customized datasets. Segmed is a one-stop shop for rapid medical data aggregation. www.segmed.ai

---

Pressemitteilung

Mehr Sicherheit beim KI-Einsatz in der Radiologie: deepc, Centaur Labs und Segmed gründen KI-Sicherheitsinitiative 

  • Überwachung von KI-Anwendungen nach Markteinführung
  • Kontinuierliche klinische Sicherheit von Algorithmen
  • Höhere Patientensicherheit und bessere klinische Arbeitsabläufe

MÜNCHEN / BOSTON / STANFORD - 30. November 2022

Der Einsatz von Künstlicher Intelligenz (KI) wird immer mehr zu einem integralen Bestandteil von Arbeitsabläufen in der Radiologie. Damit werden auch die für die Entwicklung von KI-Algorithmen verwendeten Daten immer wichtiger. Eine Herausforderung für die Branche besteht darin, die Überwachung von KI nach der Markteinführung in großem Maßstab zu gewährleisten und eine Grundlage für die kontinuierliche klinische Sicherheit und Verbesserung der Algorithmen vor und nach dem klinischen Einsatz zu schaffen. KI-Algorithmen müssen bereits jetzt hohe Standards erfüllen, um von regulatorischen Stellen wie z.B. der FDA zugelassen zu werden. In einigen klinischen Szenarien kann es jedoch vorkommen, dass die Leistung eines KI-Algorithmus nicht den Erwartungen entspricht oder sich im Laufe der Zeit verschlechtert, z. B. aufgrund unterschiedlicher Zielpatientengruppen oder neuer Scannertypen. Um solche Auswirkungen sofort zu erkennen, ist es entscheidend, die Leistung der KI vor und während ihres Einsatzes in der klinischen Routine zu bewerten. In solchen Fällen können die KI-Algorithmen dann auf breiteren Datensätzen neu trainiert werden, die die Zielpopulation widerspiegeln und sie robuster und sicherer machen. 

Um diesen Bedarf zu decken, haben deepc, Centaur Labs und Segmed eine KI-Sicherheitsinitiative für die Radiologie ins Leben gerufen, um die kontinuierliche KI-Leistung in klinischen Arbeitsabläufen zu verbessern.

Das deutsche MedTech-Unternehmen deepc mit seiner führenden Radiologie-KI-Plattform deepcOS bietet Radiolog:innen Zugang zu einer Vielzahl von regulatorisch zugelassenen KI-Lösungen aus seinem weltweit führenden Partnernetzwerk. Die US-Firma Segmed stellt gesicherte, de-identifizierte medizinische Daten zur Verfügung, und das gleichfalls in den USA ansässige Unternehmen Centaur Labs bietet eine Labeling-Lösung für solche Daten. In Zusammenarbeit mit seinen KI-Partnern unterstützt deepc KI-Anwendungen dabei, die höchsten Sicherheits- und Leistungsstandards zu erfüllen. 

Kunden, die deepcOS nutzen, suchen in der Regel Unterstützung bei der Validierung und dem Benchmarking, um die optimale Leistung und Sicherheit von Algorithmen vor der Markteinführung zu ermitteln und so eine Auswahl zu gewährleisten, die den spezifischen Anforderungen des klinischen Umfelds entspricht. 

Die Self-Service-Datenplattform Insight von Segmed ermöglicht es KI-Entwickler:innen, Kohorten de-identifizierter und strukturierter Daten zu erstellen, die für das Training, Testen und die Validierung von KI-Algorithmen leicht verfügbar sind. 

Gemeinsam mit Centaur Labs kann medizinisches Labeling für bestimmte klinische Indikationsbereiche angeboten werden, um den sicheren Betrieb von KI-Anwendungen auf spezifischen Kundendaten vor dem Einsatz zu gewährleisten.

Die drei Unternehmen entwickeln derzeit ein gemeinsames Angebot: KI-Anbieter werden in der Lage sein, über die deepcOS-Plattform eine Überwachung nach der Markteinführung in Echtzeit durchzuführen und zu erkennen, wenn ein KI-Modell im Laufe der Zeit eine suboptimale Leistung erbringt - ein Phänomen, das oft als "KI-Drift" bezeichnet wird. Dies kann z. B. durch eine sich verändernde Patientenpopulation oder neue Scannertypen verursacht werden. deepc wird den KI-Anbietern diese präzisen Informationen zur Verfügung stellen und einen On-Demand-Zugang zu Daten bieten. Segmed stellt durch seine Datenplattform diese Daten anonymisiert für die KI-Entwicklung zur Verfügung, und Centaur Labs labelt sie durch die skalierbare Annotationsplattform. Diese Daten können verwendet werden, um den KI-Algorithmus neu zu trainieren und die Leistung, Robustheit und klinische KI-Sicherheit zu verbessern. Die Sammlung vielfältiger, relevanter Daten und das Labeling dieser Daten sind zwei der größten Engpässe in KI-Pipelines, die von den deepc-Partnern Segmed und Centaur Labs gelöst werden.

Erik Duhaime, CEO von Centaur Labs, sagt: "Die Möglichkeit, Schwächen des Modells durch deepcOS zu identifizieren und sie in unserem gemeinsamen Angebot schnell zu korrigieren, ist ein großer Schritt nach vorn bei der Skalierung von KI für die breite klinische Anwendung."

Dr. Martin Willemink, CEO von Segmed, fügt hinzu: "Wir freuen uns, aufbauend auf der Partnerschaft mit deepc, eine Ende-zu-Ende-Lösung anbieten zu können, die Zugang zu unseren standardisierten, qualitativ hochwertigen Datensätzen bietet, die wir von unseren Datenpartnern weltweit beziehen. So ermöglichen wir es KI-Unternehmen, ihre Produkte zu den besten auf dem Markt zu machen und Verzerrungen in KI-Algorithmen zu reduzieren."

"Die herausragenden Bemühungen unserer Unternehmen erhöhen die klinische KI-Sicherheit. Das führt zu besseren klinischen Ergebnissen und mehr Patientensicherheit. Wir sind stolz darauf, diese wichtige Initiative in der Branche gegründet zu haben", sagt Dr. Franz Pfister, Mitbegründer und CEO von deepc.

Pressekontakt  deepc:

Natalie Erdmann

CMO

natalie.erdmann@deepc.ai

deepc hat die Radiologie-KI-Plattform deepcOS entwickelt. Ärzt:innen können darüber auf eine Vielzahl regulatorisch zugelassener und weltweit führender KI-Lösungen zugreifen. Der Einsatz von KI kann zu schnellerer Befundung und effizienteren Arbeitsabläufen führen und bietet Radiolog:innen mehr Sicherheit in ihrer täglichen Routine. deepc bietet die einfache Installation, Vertragserstellung, Abrechnung sowie Service und Support unter Einhaltung aller Datenschutz- und Cybersicherheitsanforderungen. www.deepc.ai

Centaur Labs hat die führende skalierbare Datenannotationsplattform für die Medizin- und Biowissenschaftsbranche entwickelt. Die Plattform hat die Annotation biomedizinischer Daten in einen Wettbewerbssport verwandelt und generiert wöchentlich 2 Millionen qualitativ hochwertige Annotationen aus einem proprietären Netzwerk von Zehntausenden von Fachexpert:innen. Centaur Labs annotiert eine Vielzahl von Daten - von unstrukturierten klinischen Notizen über Röntgenbilder bis hin zu Wellenformen und mehr. www.centaurlabs.com

Segmed bietet Kliniker:innen, Forscher:innen und KI-Entwickler:innen Zugang zu de-identifizierten realen Bildgebungsdaten, einschließlich DICOMs, Berichten und EMR-Daten. Segmed arbeitet mit Gesundheitseinrichtungen auf fünf Kontinenten zusammen, standardisiert und de-identifiziert Daten über eine Reihe von proprietären Algorithmen und ermöglicht es den Nutzern, individuelle Datensätze zu erstellen. Segmed ist ein One-Stop-Shop für die schnelle Zusammenführung medizinischer Daten. www.segmed.ai