Open LLM Integrator

[jBubbleBoy]

Ich habe eine neue Applikation auf OpenNTF veröffentlicht -> Open LLM Integrator, damit können LLMs in Domino-Anwendungen genutzt werden. Wer Interesse hat, kann es sich hier anschauen:
https://openntf.org/main.nsf/project.xsp?r=project/Open%20LLM%20Integrator

Fragen und Hinweise dazu können hier gestellt werden. Dasselbe gilt natürlich auch für die Notes Script Extension.

[ett.ge]

Hi ich würde das gerne mal testen, habe aber Ollama auf einem separaten Server mit API-Key Zugriff. Ich bin jetzt in der Konfig leider nicht ganz durchgestiegen, ob ich das gleichermaßen einbinden kann wie mit URL Aufruf.
Nur mit URL kommen wir bis auf den Verbindungstest nicht weiter   

[jBubbleBoy]

Hi und sorry für die urlaubsbedingte späte Antwort ein API-Key ist in der Konfiguration nicht vorgesehen, kann aber im Code durch einen Einzeiler hinzugefügt werden, falls du das nicht schon getan hast.

In der Funktion httpRequestExecute, in der Lib openLLMBasic, nach den Zeilen:
Call httpRequest.SetHeaderField("Content-Type", "application/json")
Call httpRequest.Setheaderfield("charsets:", "UTF-8")

Diese Zeile hinzufügen:
Call httpRequest.SetHeaderField("Authorization", "Bearer <API_Key>")