Есть в математике такой фундаментальный раздел - дискретная математика. Тыкскыть основа основ. Прямыми "потомками" дискретки являются логика, комбинаторика, кодирование, теория графов и сетей, алгебры и куча чего еще. Так вот... вся дискретка по сути дела вытекает из одного единственного базового понятия - кирпичика лежащего в основе пирамиды - понятия множества. Само же множество является "фундаментальным неопределяемым понятием математики. Множество - это любая определенная совокупность объектов". Попытки дать множеству сколько нибудь четкое определение обычно заканчивались очередным логическим парадоксом (их известно несколько десятков). Т.е. получается, что что-то мы изучаем, только сами не знаем что.
Ваши мысли по поводу вышесказанного в частности и философских проблем математики в общем...