FROM mistral-small:22b-instruct-2409-q4_0

TEMPLATE """{{- range $i, $_ := .Messages }}
{{- if eq .Role "system" }}
[INST]{{ .Content }}
[/INST]
{{- else if eq .Role "user" }}
[INST]{{ .Content }}
[/INST]
{{- else if eq .Role "assistant" }}
{{- if .Content }} {{ .Content }} {{ if not (eq (len (slice $.Messages $i)) 1) }}</s>{{ end }}{{ end }}
{{- else if eq .Role "tool" }}[TOOL_RESULTS] {"content": {{ .Content }}} [/TOOL_RESULTS]
{{- end }}
{{- end }}"""
PARAMETER stop [INST]
PARAMETER stop [/INST]
PARAMETER stop </s>