En SQL (tout du moins avec MySQL, je ne sais pas si c'est du SQL standard), on peut mettre un IF() dans une clause WHERE:

SELECT users.id FROM users, groups WHERE IF(users.group_id > 5, users.group_id = groups.id, 1)

Cette requête retourne les users dont le groupe existe s'il son id (au groupe) est supérieur a 5, plus ceux dont l'id du groupe est inférieure a 5, qu'il existe dans la table des groupes ou non.