LatticeFlow, ein Unternehmen, das 2020 von führenden KI-Forschern der ETH Zürich gegründet wurde, gibt eine Finanzierungsrunde in Höhe von 2,8 Millionen US-Dollar bekannt. Das Unternehmen entwickelt nun ein Produkt, das es KI-Teams ermöglicht, KI-Modelle zu erstellen und einzusetzen, die sicher, zuverlässig und vertrauenswürdig sind.
Petar Tsankov, Co-founder und CEO von LatticeFlow, sagt:
„Unsere Mission ist es, diese Lücke zu schließen und KI-Teams in die Lage zu versetzen, vertrauenswürdige KI-Modelle zu erstellen und sicher einzusetzen. Die breite Einführung von KI hängt von unserer Fähigkeit ab, KI-Modelle zu bauen, denen wir vertrauen können.“
OpenAI-Forscher fassen einen der Gründe zusammen, warum aktuelle Modelle nicht vertrauenswürdig sind:
„Modelle lernen zu ’schummeln‘, indem sie nur für die Leistung im Benchmark optimiert werden, ähnlich wie ein Student, der eine Prüfung besteht, indem er nur die Fragen der Prüfungen der vergangenen Jahre studiert.“
Oder wie es ein Team von KI-Forschern bei Facebook formuliert:
„State-of-the-Art-Modelle lernen, falsche statistische Muster in Datensätzen auszunutzen, anstatt Bedeutung auf die flexible und verallgemeinerbare Weise zu lernen, wie es Menschen tun.“
