Juan Filloy había nacido el 1° de agosto de 1894 en la ciudad de Córdoba, siendo el segundo hijo de Benito Filloy, un campesino español de Pontevedra, Galicia, y de Dominique Grange, una campesina francesa natural de Toulouse, que se ganaba la vida como curandera y lavandera.
Realizó los estudios primarios en la escuela Normal Alejandro Carbó y los secundarios en el colegio Nacional de Monserrat de la Ciudad de Córdoba.
En 1912 la familia, sus padres y los hermanos Benito ( c. 1891- 1976), Rosa y Manuel, instaló el cine, teatro y bar Imperial con una inversión que, aunque distinta, no aumentó la prosperidad del grupo.
En 1913 se desempeñó como bibliotecario Ad-honorem de la biblioteca Popular Vélez Sarsfield ( fundada el 11 de mayo de 1909), ubicada en el mismo barrio General Paz de su infancia y adolescencia; al año siguiente ocupó el cargo de secretario de la entidad.
Aunque nunca jugó al fútbol, fue socio fundador del club Talleres, entidad de la que llegó a ser secretario y presidente de la delegación que viajó a Chile en 1923. En 1918 tuvo participación activa en la Reforma Universitaria, casi al mismo tiempo que trabajaba de dibujante caricaturista. Fue miembro de la Federación Argentina de Boxeo y dirigió combates de Luis Ángel Firpo.
En 1920, recién graduado en Derecho en la Universidad Nacional de Córdoba, se trasladó a Río Cuarto, ciudad en la que residiría durante sesenta y cuatro años. En su ciudad adoptiva fue uno de los fundadores del Museo de Bellas Artes de Río Cuarto y del Golf Club (deporte que nunca practicó). Durante sesenta años fue colaborador del diario El Pueblo de Río Cuarto, en el que escribía una columna diaria con comentarios de actualidad, crítica literaria o teatral.
Publicó su primera obra, Periplo, crónicas de un viaje de dos meses en los que recorrió toda la costa del Mediterráneo, en 1930. Durante los nueve años siguientes publicó otros seis libros, incluyendo tres novelas (¡Estafen!, Op Oloop y Caterva), un poemario (Balumba), una suerte de geografía poética de la Argentina (Aquende) y un volumen de prosas poéticas (Finesse), todos en ediciones de autor de poco alcance, para después dejar de publicar durante casi tres décadas, durante las cuales se desempeñó como juez, si bien nunca dejó de escribir. En reportajes posteriores, explicó este silencio editorial por incompatibilidades con sus funciones jurídicas:
Hay un artículo en el Código donde la publicación de pornografía es punida. Como juez he hecho todo lo posible para que los libros que tuvieran coprolalia no estuvieran al alcance de la prensa. Por eso se hicieron ediciones privadas, que eran dedicadas personalmente, de modo estricto, a mis amigos. Yo no podía cometer la tontería de caer en las sanciones del artículo 218 que a mí, como juez me correspondía aplicar.
En 1933 comenzó a cartearse con Paulina Warshawsky, una docente enterriana hija de judíos ingleses que conocía a un amigo de Filloy. Finalmente, en 1935 se conocieron personalmente en Buenos Aires. En palabras del escritor, «Nos conocimos la tarde de un viernes, nos pusimos de novios el sábado, nos comprometimos el domingo y nos casamos el lunes». Permanecieron juntos durante casi cincuenta años, hasta la muerte de Paulina en 1984, y tuvieron a sus hijos Fernán y Monique.
Entre 1967 y 1973, la editorial Paidós reeditó sus novelas ¡Estafen! y Op Oloop, a las que se agregó una editada por primera vez, La potra, en una colección dirigida por Bernardo Verbitsky, lo que generó un redescubrimiento de su obra, hasta que Filloy volvió a publicar en ediciones de autor. Otra de sus novelas, Vil & Vil (1975), fue prohibida por el gobierno militar y fue interrogado durante varias horas, al cabo de las cuales lo liberaron porque sólo habló de literatura.
Después de la muerte de su esposa en 1984, volvió a residir en la ciudad de Córdoba, donde siguió escribiendo a pesar de su avanzada edad. Publicó Karcino, un tratado de palíndromos, y Esto fui, memorias de infancia. Por este tiempo también apareció Don Juan, una antología de textos suyos a cargo de Mempo Giardinelli, amigo y difusor de la obra de Filloy, y quien también lo entrevistó para su revista Puro cuento en 1987.
Cumpliendo su deseo de ser «un hombre de tres siglos», falleció mientras dormía la siesta en su departamento el 15 de julio de 2000, a pocas semanas de cumplir 106 años. A su velatorio asistieron las principales personalidades de la cultura de Córdoba, y fue sepultado en el cementerio San Jerónimo de la capital provincial. A fines de ese año, la biblioteca de la Universidad de Río Cuarto fue bautizada con su nombre.
La obra de Filloy ha sido y sigue siendo desconocida para el gran público, lo cual no ha impedido que sea elogiado por algunas importantes figuras literarias. Así, el escritor y crítico David Viñas sostuvo que «La producción de Filloy de los años treinta se ubica, por su calidad, entre las obras de Roberto Arlt, el teatro de Armando Discépolo y la poesía de Oliverio Girondo».,9 y el crítico Adolfo Prieto dijo de él: «hay una capacidad inventiva, un desprejuicio frente a las formas tradicionales de la narrativa y un tan regocijante manejo del idioma, que desgajan a la obra de Juan Filloy del contexto histórico de la novelística de su tiempo y aconsejan una atención particularizada de la misma».10 Asimismo, influenció a autores como Julio Cortázar, quien lo menciona en sus obras Rayuela (en el capítulo 108) y La vuelta al día en ochenta mundos (en el texto «De la seriedad en los velorios»); o Leopoldo Marechal, en su novela El banquete de Severo Arcángelo. Su obra se caracteriza principalmente por una crítica a las costumbres humanas, crítica efectuada mediante el humor recurriendo frecuentemente a la parodia y a la ironía.
A 22 años de su deceso, su trabajo literario sigue siendo reconocido y trasciende por quienes lo han leído ya que su obra nunca fue promocionada.