跳转至

Thinking In Code

MicroContext-701

中文

MicroContext-701¶

基本信息¶

开发者/组织：ContextHub Solutions
许可证：开源 (BSD)
版本：v3.9.4
发布日期：2023-04-17
官方网站：https://microcontext-701.example.com
源代码仓库：https://github.com/contexthub-solutions/microcontext-701

功能特点¶

MicroContext-701是一款专业的MCP服务器，具有以下主要特点：

细粒度访问控制：支持高效的细粒度访问控制能力
自动扩缩容：支持高效的自动扩缩容能力
多语言支持：支持高效的多语言支持能力
长期记忆管理：支持高效的长期记忆管理能力
自定义插件系统：支持高效的自定义插件系统能力

技术规格¶

支持的模型：Llama 3-70B, Claude 3 Sonnet
部署方式：边缘设备, Kubernetes
语言/框架：C++ / 原生实现
性能指标：每秒处理约4407请求，平均延迟<274ms

API示例¶

// 查询请求示例
{
  "model": "claude-3-sonnet",
  "query": "用户查询内容",
  "context_sources": [
    {
      "type": "document",
      "id": "resource-id",
      "sections": ["section1", "section2"]
    },
    {
      "type": "database",
      "id": "db-source",
      "query": "SELECT * FROM data WHERE topic='query'"
    }
  ],
  "response_format": "text"
}

使用案例¶

产品推荐系统：利用MicroContext-701提供的细粒度访问控制能力，实现高效的产品推荐系统
商业情报收集：利用MicroContext-701提供的长期记忆管理能力，实现高效的商业情报收集

配置示例¶

server:
  host: 0.0.0.0
  port: 8730
  threads: 16

security:
  auth_required: true
  rate_limiting: true
  max_requests_per_minute: 803

models:
  - name: "llama-3"
    provider: "local"
    model_path: "/models/llama-3-70b"

connectors:
  - type: "document_store"
    id: "main_docs"
    url: "http://docs-server:9200"
  - type: "vector_db"
    id: "embeddings"
    url: "http://vector-db:6333"