https://github.com/berriai/litellm/issues/31553 {
```slug-github-card
eyJ2IjoxLCJzY2hlbWEiOiJzbHVnX2dpdGh1Yl9pbXBvcnQiLCJraW5kIjoiaXNzdWUiLCJ1cmwiOiJodHRwczovL2dpdGh1Yi5jb20vYmVycmlhaS9saXRlbGxtL2lzc3Vlcy8zMTU1MyIsImhlYWRsaW5lIjoiIzMxNTUzIFtCdWddOiB1bmV4cGVjdGVkIGJsYW5rIGFzc2lzdGFudCBtZXNzYWdlIGFmdGVyIGFuIGFzc2lzdGFudCBtZXNzYWdlIHdpdGggXCJ0b29sIGNhbGxzXCIiLCJzdWJsaW5lcyI6WyJTdGF0ZTogb3BlbiIsIkF1dGhvcjogQEJpb3RpY1IiLCJMYWJlbHM6IGJ1ZywgcHJveHksIGxsbSB0cmFuc2xhdGlvbiJdLCJleGNlcnB0IjoiIyMjIENoZWNrIGZvciBleGlzdGluZyBpc3N1ZXNcblxuLSBbeF0gSSBoYXZlIHNlYXJjaGVkIHRoZSBleGlzdGluZyBpc3N1ZXMgYW5kIGNoZWNrZWQgdGhhdCBteSBpc3N1ZSBpcyBub3QgYSBkdXBsaWNhdGUuXG5cbiMjIyBXaGF0IGhhcHBlbmVkP1xuXG5BbiB1bmV4cGVjdGVkIGJsYW5rIGFzc2lzdGFudCBtZXNzYWdlIGVtZXJnZWQgaW4gdGhlIExpdGVsbG0gQUkgR2F0ZXdheSdzIGNvbm5lY3Rpb24gd2l0aCBEZWVwc2VlaydzIHNlcnZlcidzIGNoYXQgY29tcGxldGlvbiBBUEkgd2hpbGUgSSB3YXMgdXNpbmcgY29kZXgsIHdoaWNoIHVzZWQgdGhlIGAvcmVzcG9uc2VzYCBlbmRwb2ludCBvZiB0aGUgTGl0ZWxsbSBBSSBHYXRld2F5IGFuZCB0aGUgbW9kZWwgYGRlZXBzZWVrIHY0IGZsYXNoYC4gVGhpcyByYWlzZWQgYW4gYEhUVFAgNDAwYCBlcnJvciBmcm9tIERlZXBzZWVrJ3Mgc2VydmVyOiBcbmB7XCJlcnJvclwiOntcIm1lc3NhZ2VcIjpcIkFuIGFzc2lzdGFudCBtZXNzYWdlIHdpdGggJ3Rvb2xfY2FsbHMnIG11c3QgYmUgZm9sbG93ZWQgYnkgdG9vbCBtZXNzYWdlcyByZXNwb25kaW5nIHRvIGVhY2ggJ3Rvb2xfY2FsbF9pZCcuIChpbnN1ZmZpY2llbnQgdG9vbCBtZXNzYWdlcyBmb2xsb3dpbmcgdG9vbF9jYWxscyBtZXNzYWdlKVwiLFwidHlwZVwiOlwiaW52YWxpZF9yZXF1ZXN0X2Vycm9yXCIsXCJwYXJhbVwiOm51bGwsXCJjb2RlXCI6XCJpbnZhbGlkX3JlcXVlc3RfZXJyb3JcIn19LiBSZWNlaXZlZCBNb2RlbCBHcm91cD1kZWVwc2Vlay12NC1mbGFzaFxuQXZhaWxhYmxlIE1vZGVsIEdyb3VwIEZhbGxiYWNrcz1Ob25lYFxuSW52b2x2ZWQgbWVzc2FnZXMgd2VyZTogYFt7XCJ0b29sX2NhbGxzXCI6IFt7XCJpZFwiOiBcImNhbGxfMDBfc3ByNlpsaHFGdjc0dkpFbWlEYko4NDAwXCIsXCJ0eXBlXCI6IFwiZnVuY3Rpb25cIixcImZ1bmN0aW9uXCI6IHtcIm5hbWVcIjogXCJzaGVsbF9jb21tYW5kXCIsXCJhcmd1bWVudHNcIjogXCJ7XFxcImNvbW1hbmRcXFwiOiBcXFwiR2V0LUNoaWxkSXRlbSAtUGF0aCBcXFxcXFxcIkQ6XFxcXFxcXFw2Mjblt6XnqItcXFxcXFxcIiAtRGVwdGggMFxcXCIsIFxcXCJ0aW1lb3V0X21zXFxcIjo1MDAwfVwifSxcImluZGV4XCI6IDB9XSxcInJvbGVcIjogXCJhc3Npc3RhbnRcIn0se1wicm9sZVwiOiBcImFzc2lzdGFudFwiLFwiY29udGVudFwiOiBbe1widHlwZVwiOiBcInRleHRcIixcInRleHRcIjogXCJcIn1dfV1gXG5cblxuIyMjIFN0ZXBzIHRvIFJlcHJvZHVjZVxuXG4xLiBDb25maWd1cmUgdGhlIExpdGVsbG0gQUkgR2F0ZXdheSDigKYifQ==
```
}