El método de autenticación por desafío-respuesta se utiliza principalmente para contraseñas de un solo uso (OTP). Además de las OTP, también se emplea en protocolos como CHAP (protocolo de autenticación por desafío mutuo), que forma parte de PPP (protocolo punto a punto), y para autenticar dispositivos en puntos de acceso Wi-Fi.

En este método, el cliente (la entidad que se está autenticando) envía una solicitud de autenticación al servidor (la entidad que realiza la autenticación) utilizando credenciales como un identificador de usuario. El servidor responde generando un conjunto de datos aleatorio, denominado «desafío», y lo envía al cliente. Al mismo tiempo, el servidor también calcula previamente la respuesta esperada a partir de la contraseña del cliente. El cliente utiliza el desafío junto con su contraseña para calcular un valor hash (la «respuesta») y lo devuelve al servidor. A continuación, el servidor compara la respuesta del cliente con la que ha generado. Si ambas coinciden, la autenticación se realiza correctamente.

Dado que el desafío generado cada vez es aleatorio y la respuesta correspondiente es única, este método ofrece una seguridad sólida, ya que dificulta que los atacantes vulneren la autenticación incluso si interceptan el intercambio. Sin embargo, si se roba la propia contraseña, sigue existiendo el riesgo de acceso no autorizado.

Para mitigar este riesgo, las contraseñas de un solo uso que emplean el método de desafío-respuesta suelen incorporar medidas de seguridad adicionales. Por ejemplo, los usuarios introducen primero su identificador y contraseña, pero el proceso de desafío-respuesta se lleva a cabo a través de un canal de comunicación y un dispositivo independientes, como un smartphone. Entre los métodos habituales para enviar el desafío se incluyen los mensajes SMS, el correo electrónico o una aplicación específica para smartphones. Dado que este proceso utiliza dos factores independientes, suele denominarse «autenticación de dos factores» o «verificación en dos pasos».

BIG-IP de F5 simplifica la implementación de sistemas OTP de desafío-respuesta, lo que facilita a las organizaciones la adopción de este método de autenticación seguro.