15. Seguridad en Aplicaciones de IA: Prevención de Prompt Injection y Jailbreaks

<?php
declare(strict_types=1);

namespace App\Security;

class PromptInjectionGuard
{
    /**
     * Lista de firmas sospechosas típicas de Jailbreak e inyecciones directas.
     */
    private const JAILBREAK_PATTERNS = [
        '/\bignore\s+(all\s+)?(previous|prior)\s+instructions\b/i',
        '/\bignora\s+(todas\s+las\s+)?instrucciones\s+(anteriores|previas)\b/i',
        '/\byou\s+are\s+now\s+in\s+developer\s+mode\b/i',
        '/\bahora\s+eres\s+(un\s+hacker|modo\s+desarrollador|dan)\b/i',
        '/\brevela\s+(el\s+system\s+prompt|las\s+claves|el\s+api\s+key)\b/i',
    ];

    /**
     * Sanitiza y encapsula la entrada del usuario de forma segura.
     *
     * @throws \InvalidArgumentException Si se detecta un patrón de ataque evidente.
     */
    public static function sanitizeAndWrap(string $rawInput): string
    {
        // 1. Detección proactiva de patrones de Jailbreak
        foreach (self::JAILBREAK_PATTERNS as $pattern) {
            if (preg_match($pattern, $rawInput)) {
                throw new \InvalidArgumentException(
                    'Entrada bloqueada por los filtros de seguridad de Kilopolis (Posible intento de inyección de instrucciones).'
                );
            }
        }

        // 2. Escapar o neutralizar etiquetas XML para evitar ataques de ruptura de delimitadores
        $escaped = str_replace(
            ['<user_input>', '</user_input>', '<system>', '</system>', '<context>', '</context>'],
            ['[user_input]', '[/user_input]', '[system]', '[/system]', '[context]', '[/context]'],
            $rawInput
        );

        // 3. Encapsular en delimitador XML seguro
        return "<user_input>\n" . trim($escaped) . "\n</user_input>";
    }
}