您好,我有几个问题想请教: 1、是否用TGI封装过的模型都可以进行评测? 2、如果用FastChat进行部署的模型是否可以评测,如果可以的话是否需要针对不同的模型修改api调用部分的代码?
您好,我有几个问题想请教:
1、是否用TGI封装过的模型都可以进行评测?
2、如果用FastChat进行部署的模型是否可以评测,如果可以的话是否需要针对不同的模型修改api调用部分的代码?