J'avais oublié cette question... mais Michael Turutanov a donné une réponse très solide sur Ren'Py, et je suis d'accord pour dire qu'il s'agit effectivement d'une alternative valable et facile à utiliser pour les projets de taille moyenne, surtout en Occident.
Au delà de ça... eh bien, au cas où vous chercheriez plutôt quelque chose comme un standard industriel - le seul moteur répandu, populaire et professionnel auquel je peux penser dans le monde du Visual Novel serait le framework KiriKiri.
Il est à la base d'une partie non négligeable du marché global des visual novels, et est utilisé aussi bien pour les petits travaux d'amateurs (jeux Doujin à 1 homme) que pour les produits commerciaux les plus en vue. Par exemple, le studio August l'a utilisée pour YoakeMae, Eustia et d'autres titres (en termes de budget, on ne peut pas faire beaucoup plus gros que ça). La licence de base est GNU et libre, mais si vous voulez devenir fantaisiste et le modifier, vous aurez besoin d'une licence commerciale.
Cela dit, malheureusement, il vient avec un certain nombre de défis attachés. Pour commencer, c'est un logiciel distinctement japonais et n'est pas bien adapté à une utilisation sur des machines Windows occidentales - sans parler du fait que toute la documentation et le support sont en japonais.
La licence de base est libre.