SQLite é uma biblioteca em C que implementa um sistema de gerenciamento de banco de dados relacional que aceita a maioria dos comandos SQL. Por se tratar de uma biblioteca bem pequena (cerca de 200Kb), é muito usada em sistemas embutidos, e a página do SQLite na wikipedia possui uma lista de aplicações que usam a biblioteca, até mesmo o OpenOffice.org e Mozilla Firefox.

No site oficial você pode ver uma descrição detalhada de quando é apropriado utilizar o SQLite. E, na minha opinião, de todos esses motivos um só já vale:

Substituir a operação padrão de escrita e leitura em arquivo por comandos SQL.

Vocês não têm noção de como isso é útil! Sério! Quem já programou em Java, por exemplo, sabe como é horrível trabalhar com o pacote java.io. É no mínimo enfadonho. Perde-se muito tempo cuidando de stream para cá stream para lá. Imagine você realizar operações CRUD com garantia de integridade!? Sofrível! Há drivers para o SQLite para todas as linguagens de programação mais utilizadas, então não será problema utilizá-lo em seu projeto.

Mas você pode me contestar: eu quero utilizar CSV, XML ou JSON. Tudo bem! Mas dos métodos que conheço, o mais simples e confiável para persistir dados em aplicações é utilizando SQLite. A maioria dos profissionais aprende SQL em algum momento da graduação, então é muito mais fácil manter um sistema utilizando SQLite para persistência de dados do que um formato de arquivos proprietário. Além disso, você conta com o poder da maior parte dos comandos SQL ao seu dispor e quem conhece sabe do que estou falando.

Então da próxima vez que precisar de um formato próprio para persistir dados no sistema de arquivos, evite a perda de tempo e avalie se o SQLite te ajudará.