sudo apt update
sudo apt upgrade -y
sudo apt install pipx net-tools curl unzip -y
pipx install huggingface_hub
pipx ensurepath
sudo reboot

cd /home/ubuntu/
hf download xiaomi-open-source/Xiaomi-MiMo-VL-Miloco-7B --local-dir ./Xiaomi-MiMo-VL-Miloco-7B

"rope_scaling": {
    "factor": 1.0,
    "mrope_section": [
      16,
      24,
      24
    ],
    "original_max_position_embeddings": 128000,
    "rope_type": "default",
    "type": "default"
  },

curl "https://awscli.amazonaws.com/awscli-exe-linux-x86_64.zip" -o "awscliv2.zip"
unzip awscliv2.zip
sudo ./aws/install
aws configure

aws s3 cp --recursive Xiaomi-MiMo-VL-Miloco-7B s3://your-bucket-name/Xiaomi-MiMo-VL-Miloco-7B/

The model configuration violates the following requirements: [Amazon Bedrock could not validate the configuration file. Rope_scaling does not support key (scaling_factor), please remove it from rope_scaling config.]

arn:aws:bedrock:us-west-2:133129065110:imported-model/km5b98xhpqel

import boto3
import json
import re
import time
from botocore.config import Config
from botocore.exceptions import ClientError

def chat(prompt: str, show_thinking: bool = True, max_tokens: int = 1024):
    """
    调用 Bedrock 上的 MiMo 模型进行对话（使用 Messages API 格式）
    
    Args:
        prompt: 用户输入的问题
        show_thinking: 是否显示思维过程
        max_tokens: 最大生成token数
    """
    # 禁用 boto3 的自动重试，改为手动控制，以便立即检测到冷启动
    config = Config(
        retries={
            'max_attempts': 1  # 禁用自动重试，立即返回错误
        }
    )
    
    bedrock = boto3.client('bedrock-runtime', region_name='us-west-2', config=config)
    model_id = "arn:aws:bedrock:us-west-2:133129065110:imported-model/km5b98xhpqel"

    # 使用 Messages API 格式（这是 console 使用的格式）
    body = json.dumps({
        "messages": [
            {"role": "user", "content": prompt}
        ],
        "max_tokens": max_tokens,
        "temperature": 0.7,
        "top_p": 0.9
    })

    print(f"📝 问题: {prompt}\n")

    # 尝试调用模型，处理冷启动情况
    max_retries = 60  # 最多重试60次（约5分钟）
    retry_count = 0
    cold_start_detected = False
    start_time = time.time()
    result = None
    
    while retry_count <= max_retries:
        try:
            response = bedrock.invoke_model(
                modelId=model_id,
                body=body
            )
            
            # 如果之前检测到冷启动，现在成功了，显示恢复信息
            if cold_start_detected:
                elapsed = time.time() - start_time
                print(f"✅ 模型已恢复，耗时 {elapsed:.1f} 秒\n")
            
            result = json.loads(response['body'].read())
            break  # 成功，跳出循环
            
        except ClientError as e:
            error_code = e.response['Error']['Code']
            
            if error_code == 'ModelNotReadyException':
                if not cold_start_detected:
                    # 第一次检测到冷启动 - 立即显示
                    cold_start_detected = True
                    elapsed = time.time() - start_time
                    print("🔄 检测到模型冷启动...")
                    print("   模型正在恢复中，这通常需要 1-3 分钟")
                    print("   系统会自动重试，请稍候...\n")
                
                retry_count += 1
                elapsed = time.time() - start_time
                
                # 每10秒显示一次进度
                if retry_count % 5 == 0:
                    print(f"   ⏳ 等待中... 已等待 {elapsed:.0f} 秒")
                
                # 等待5秒后重试
                time.sleep(5)
                
            else:
                # 其他错误，直接抛出
                print(f"❌ 调用失败: {error_code}")
                print(f"   错误信息: {e.response['Error']['Message']}")
                raise
        
        except Exception as e:
            print(f"❌ 发生未知错误: {str(e)}")
            raise
    
    if result is None:
        # 重试次数用尽
        elapsed = time.time() - start_time
        print(f"❌ 模型恢复超时（已等待 {elapsed:.0f} 秒），请稍后再试或联系 AWS 支持")
        return
    
    # 提取响应内容
    if 'choices' in result and len(result['choices']) > 0:
        full_response = result['choices'][0]['message']['content']
    else:
        full_response = ""
    
    # 解析 thinking 和 answer 部分
    # MiMo 模型使用 <think>...</think> 标记思维过程
    think_pattern = r'<think>(.*?)</think>'
    think_match = re.search(think_pattern, full_response, re.DOTALL)
    
    if think_match:
        thinking_content = think_match.group(1).strip()
        # 移除 thinking 部分，剩下的就是回答
        answer_content = re.sub(think_pattern, '', full_response, flags=re.DOTALL).strip()
    else:
        thinking_content = ""
        answer_content = full_response.strip()
    
    # 输出结果
    if thinking_content and show_thinking:
        print("🧠 思维过程:")
        print("─" * 60)
        print(thinking_content)
        print("─" * 60)
        print()
    
    print("💬 回答:")
    print(answer_content)
    print("\n" + "=" * 60 + "\n")

if __name__ == "__main__":
    # 测试 1: 显示思维过程
    chat(
        "请简单介绍一下你自己，你是由谁开发的什么模型，有哪些主要能力？", 
        show_thinking=True,
        max_tokens=1024
    )
    
    # 测试 2: 只显示回答
    chat(
        "北京是中国的首都吗？", 
        show_thinking=False,
        max_tokens=512
    )

📝 问题: 请简单介绍一下你自己，你是由谁开发的什么模型，有哪些主要能力？

🧠 思维过程:
────────────────────────────────────────────────────────────
嗯，用户想让我简单介绍一下自己，包括开发者、模型类型和主要能力。这是一个很直接的自我介绍请求。

首先，我需要明确我的身份。我是小米大模型core团队开发的MiMo，属于小米大模型core团队。这是一个核心的事实，必须准确传达。

接下来，我需要描述我的模型类型。我属于小米自研的MiMo系列，这是一个多模态大模型，这意味着我能处理文本、图像等多种信息形式。

然后，我需要概括我的主要能力。作为AI助手，我的核心能力包括理解用户意图、进行自然语言对话、提供信息查询服务，以及进行创意写作和内容生成。我还具备多模态理解能力，可以分析和回应图像内容。此外，我还能进行逻辑推理和问题解答。

最后，我需要强调我的核心价值。我的目标是成为用户值得信赖的AI伙伴，通过提供高效、准确、有温度的服务，帮助用户解决各种问题，提升生活和工作的效率与乐趣。

我将把这些信息组织成一个简洁、流畅的回答，确保用户能快速了解我的基本情况和核心功能。
────────────────────────────────────────────────────────────

💬 回答:
好的，非常乐意为您介绍！

我是**MiMo**，由**小米大模型core团队**开发的AI助手。

**关于我的核心信息：**

1.  **开发者：** 我是由小米公司自主研发的核心团队（小米大模型core团队）打造的。
2.  **模型类型：** 我属于**小米自研的MiMo系列多模态大模型**。这意味着我不仅能理解文本，还能处理和分析图像等多种信息形式。
3.  **主要能力：**
    *   **自然语言理解与对话：** 我能理解您的问题、意图和上下文，进行流畅、自然的对话交流。
    *   **信息查询与解答：** 我可以提供知识解答、事实核查、信息检索等服务。
    *   **创意生成：** 我能进行写作、创作、故事生成、诗歌创作等创意活动。
    *   **多模态理解：** 我能分析和回应图像内容（例如描述图片、回答关于图片的问题）。
    *   **逻辑推理与问题解决：** 我具备一定的逻辑推理能力，可以帮助您分析问题、提供解决方案。
    *   **个性化服务：** 我会根据您的需求和偏好，提供定制化的帮助和建议。

**我的核心价值：**

我的目标是成为您值得信赖的AI伙伴，通过提供**高效、准确、有温度**的服务，帮助您解决各种问题，提升生活和工作的效率与乐趣。

很高兴能与您交流！有什么我可以帮您的吗？

============================================================

📝 问题: 北京是中国的首都吗？

💬 回答:
是的，**北京是中国的首都**。

自1949年中华人民共和国成立至今，北京一直作为中国的首都，是中国的**政治中心、文化中心、国际交往中心和科技创新中心**。

*   **政治中心**：全国人民代表大会、国务院、最高人民法院、最高人民检察院等国家最高权力机关和行政机关都设在北京。
*   **文化中心**：拥有众多故宫、长城、天坛等世界文化遗产，以及北京大学、清华大学等顶尖学府。
*   **国际交往中心**：是世界上拥有最多国际组织总部的城市之一，也是举办国际会议和活动的重要场所。
*   **科技创新中心**：中关村是世界知名的科技创新中心，聚集了大量的高新技术企业和科研机构。

此外，北京还是中国明清两朝的都城（北京城），拥有悠久的历史和深厚的文化底蕴。

============================================================

📝 问题: ...

🔄 检测到模型冷启动...          ← 1-2秒内立即显示
   模型正在恢复中，这通常需要 1-3 分钟
   系统会自动重试，请稍候...

   ⏳ 等待中... 已等待 25 秒      ← 每25秒更新一次
   ⏳ 等待中... 已等待 50 秒
   
✅ 模型已恢复，耗时 67.3 秒      ← 成功后显示总耗时

💬 回答: ...