model_template.py 1.6 KB

12345678910111213141516171819202122232425262728293031323334353637383940414243444546474849505152535455565758596061626364
  1. import json
  2. model_templates = {
  3. # completion default mode
  4. 'completion_default': {
  5. 'app': {
  6. 'mode': 'completion',
  7. 'enable_site': True,
  8. 'enable_api': True,
  9. 'is_demo': False,
  10. 'api_rpm': 0,
  11. 'api_rph': 0,
  12. 'status': 'normal'
  13. },
  14. 'model_config': {
  15. 'provider': '',
  16. 'model_id': '',
  17. 'configs': {},
  18. 'model': json.dumps({
  19. "provider": "openai",
  20. "name": "gpt-3.5-turbo-instruct",
  21. "mode": "completion",
  22. "completion_params": {}
  23. }),
  24. 'user_input_form': json.dumps([
  25. {
  26. "paragraph": {
  27. "label": "Query",
  28. "variable": "query",
  29. "required": True,
  30. "default": ""
  31. }
  32. }
  33. ]),
  34. 'pre_prompt': '{{query}}'
  35. }
  36. },
  37. # chat default mode
  38. 'chat_default': {
  39. 'app': {
  40. 'mode': 'chat',
  41. 'enable_site': True,
  42. 'enable_api': True,
  43. 'is_demo': False,
  44. 'api_rpm': 0,
  45. 'api_rph': 0,
  46. 'status': 'normal'
  47. },
  48. 'model_config': {
  49. 'provider': '',
  50. 'model_id': '',
  51. 'configs': {},
  52. 'model': json.dumps({
  53. "provider": "openai",
  54. "name": "gpt-3.5-turbo",
  55. "mode": "chat",
  56. "completion_params": {}
  57. })
  58. }
  59. },
  60. }