← Volver al catálogo

Amazon Bedrock

En una frase: Acceso por API a modelos fundacionales de varias empresas para crear apps de IA
Categoría: Machine learning (Machine Learning)
Certificaciones: AIF-C01
Documentación oficial: Documentación de Amazon Bedrock ↗

Qué es

Amazon Bedrock es un servicio totalmente gestionado y serverless que da acceso por API (Application Programming Interface: interfaz para que los programas se comuniquen) a modelos fundacionales (FM) de varios proveedores (Amazon Nova, Anthropic Claude, Meta Llama, Mistral y otros). No hay infraestructura que gestionar. Además de invocar modelos, ofrece herramientas para personalizarlos, conectarlos con tus datos (RAG), añadir salvaguardas y evaluarlos.

Conceptos clave

  • Invocación: APIs InvokeModel (formato de cada proveedor) y Converse (interfaz unificada para conversaciones y uso de herramientas), con respuesta en streaming.
  • Parámetros de inferencia: temperatura y top-p (más altos, más creatividad y variación; más bajos, más determinismo), máximo de tokens de salida y secuencias de parada. Se cobra por tokens de entrada y de salida.
  • Knowledge Bases: RAG gestionado. Toma documentos (por ejemplo, de S3 (Simple Storage Service)), los divide, genera embeddings, los guarda en un almacén vectorial y recupera los fragmentos relevantes para fundamentar la respuesta.
  • Agents: descomponen una tarea en pasos y llaman a APIs o funciones Lambda (grupos de acciones) y a bases de conocimiento.
  • Guardrails: filtros de contenido dañino, temas denegados, palabras bloqueadas, detección y enmascarado de datos personales, comprobaciones de fundamentación contextual (contra alucinaciones) y de razonamiento automatizado. Se aplican a la entrada y a la salida.
  • Personalización de modelos: fine-tuning con datos etiquetados, continued pre-training con datos sin etiquetar del dominio y destilación (un modelo pequeño aprende de uno grande).
  • Evaluación de modelos: automática (métricas o un modelo como juez) o humana.
  • Inferencia entre regiones: perfiles de inferencia que reparten las peticiones entre regiones de una geografía o globalmente, para ganar capacidad.
  • Opciones de consumo: bajo demanda (con niveles Standard, Priority y Flex), por lotes (más barato, asíncrono) y Provisioned Throughput (capacidad reservada, necesaria típicamente para modelos personalizados).

Casos de uso típicos

  • Asistentes y chatbots que responden con la documentación de la empresa (RAG).
  • Resumir, clasificar o extraer información de textos y documentos.
  • Generar contenido: textos, código, imágenes.
  • Agentes que ejecutan tareas de varios pasos llamando a sistemas internos.
  • Generar preguntas de repaso o materiales de estudio a partir de apuntes.

Cuándo NO usarlo

  • Si necesitas entrenar desde cero un modelo propio o usar ML (Machine Learning: aprendizaje automático) clásico (regresión, clasificación tabular): SageMaker AI.
  • Si quieres un asistente listo para usar sin desarrollar nada: Amazon Q.
  • Tareas que resuelve un servicio de IA (inteligencia artificial) específico con menos coste y más precisión: Textract (extraer texto de documentos), Comprehend (sentimiento, entidades), Transcribe, Translate, Rekognition…
  • Para ejecutar agentes en producción con memoria, identidad y herramientas gestionadas a escala existe un servicio específico: Amazon Bedrock AgentCore.

Comparativa con servicios parecidos

NecesidadOpción adecuada
Que el modelo use información actual o privada sin reentrenarloRAG con Knowledge Bases
Que el modelo adopte un estilo o formato concreto con ejemplos etiquetadosFine-tuning
Adaptar el modelo al vocabulario de un dominio con mucho texto sin etiquetarContinued pre-training
Guiar la respuesta sin coste de entrenamientoIngeniería de prompts (zero-shot, few-shot, cadena de razonamiento)
Entrenar y desplegar modelos propiosSageMaker AI

Modelo de precios

En bajo demanda se paga por tokens de entrada y de salida (o por imagen o segundo de vídeo), con precios distintos por modelo y por nivel de servicio. La inferencia por lotes es más barata. Provisioned Throughput se paga por hora según las unidades de modelo reservadas. Se cobran aparte la personalización (entrenamiento y almacenamiento del modelo), los Guardrails, las evaluaciones y los servicios asociados, como el almacén vectorial.

Seguridad y alta disponibilidad

Así lo uso en Kopi

Kopi usa Bedrock para generar preguntas de repaso a partir de los apuntes de la sección Conocimiento. Una función Lambda envía el texto al modelo Claude Haiku con InvokeModel, con un límite de tokens de salida, y devuelve las preguntas. El identificador del modelo está en una variable de entorno, así que se puede cambiar sin tocar código. Todo queda dentro de AWS, sin claves de API externas: el permiso es bedrock:InvokeModel en el rol de ejecución. Se eligió un modelo pequeño y rápido porque la tarea no necesita más y el coste por token es menor.

Trampas de examen

  • "Datos privados o actualizados sin reentrenar": RAG con Knowledge Bases, no fine-tuning.
  • "Respuestas más deterministas": bajar la temperatura.
  • "Bloquear temas" o "ocultar datos personales": Guardrails.
  • "Modelo personalizado en producción": Provisioned Throughput.
  • "Muchas peticiones sin urgencia al menor coste": inferencia por lotes.
  • "¿Se usan mis datos para entrenar el modelo?": no.
  • "Ejecutar varios pasos y llamar a APIs": Agents.

Preguntas de práctica

Preguntas originales escritas para estos apuntes. No son preguntas reales de examen.

Fuentes