@IvanLutz задался тут как-то вопросом и нашёл прикольный ответ от Яндекс.Кью.
А я сейчас докопаюсь. Давайте начнём с того, что это не миф, а поверье?
Мне понравились ответы, которые буквально объясняют через самих себя) “Мышь – это то, что ловят в мышеловку. А что такое мышеловка? Это туда, куда мышь ловят”. Например, “Миф, что нельзя свистеть в доме, потому что денег не будет, взялся из-за того, что возможна потеря денег”.
Кстати, домовой всё-таки не добрый дух. Если меня торкнет, когда-нибудь я объясню, почему так говорить не корректно.
Общий ответ довольно прост, но я дам его в конце :)

Хотелось бы отметить, что в принципе свистеть – ну как-то такое себе, любые громкие и резкие звуки (если вы не пришли целенаправленно на концерт) не радуют. Но если сильно хочется, то можно поиграть в Соловья-разбойника: выйти в чисто поле, найти дуб, засесть там и насвистеться вволю.

Что же наши предки славянского происхождения говорили про свист?
В целом, свист часто не выделяется из ряда других резких и неприятных звуков (у русских леший пугает путников свистом, топотом, хлопаньем в ладоши; вокруг нечистых духов слышится звук, представляющий собой смешение стона, свиста и вопля). Например, у поляков “свистун” – это ветер и мифологические существа, его олицетворяющие. В Черногории и Герцеговине демоны непогоды, которые бьются между собой, тоже издают звук, похожий на свист. Демоны и сами откликаются на свист, который издаёт человек. Например, в украинских Карпатах бытовало поверье, что свист вслед погребальной процессии (случайный в том числе) зовёт покойника. В первую же ночь к свистуну под окно придёт этот мертвец и спросит, чего ж его звали. Крысы, змеи, ящерицы (хтонические животные) тоже откликаются на свист (ср. с мотивом волшебной дудочки). Сербский дракон ала тоже сильно свистит (а при полете может вырывать деревья с корнем, срывать с домов крыши). Свистят и заложные покойники, таким образом выдающие своё присутствие.


Т.е. демонические существа и сами свистят, и отзываются на ваш свист. 

Были в народе и ситуации, когда свистеть дозволялось: бесчинства (пожалуй, про ритуальные бесчинства есть смысл написать отдельно), календарные кладбищенские поминки (конкретно у русских в Вятской губернии свист был обязательным элементом), необходимость вызвать ветер (если вдруг стоит сильная жара, если вы рыбак или мельник). Но будьте осторожны, а то вызовете ураган.

Какие же у славян есть мотивировки запрета свистеть?
1. Денег не будет;
2. Не свисти в сарае, лошади помрут;
3. Животные заболеют;
4. Буря разыграется;
5. Ужи заведутся;
6. Чёрт прилетит;
7. Овцы взбесятся;
8. Дикие звери нападут на скот;
9. Мыши соберутся в доме;
10. Лён не взойдёт;
11. Рыбу высвистишь;
12. Цыплята замрут (в смысле, в яйцах, которые высиживает наседка);
13. Mavje (души некрещёных детей у словенцев Штирии) растерзают за насмешку над их голосом;
14. Свист во время грозы веселит чёрта;
15. Natemnjaci (черти по поверьям боснийских сербов) придут.

И ещё куча других. А “подноготная” этого запрета довольно проста. 

Свистеть дома по народным представлениям нельзя, потому что таким образом вы обращаетесь к потустороннему миру, а это в принципе опасное действие. Сто лет назад я писала статью про границы (почему-то только на пикабе нашла) в мифологическом сознании. Собственно, вы таким образом нарушаете границу между тем и этим мирами, а это приводит к опустошению “своего” пространства. Это представление является “первопричиной” всех остальных несчастий, вызываемых свистом. Уот так уот.

Ну а вторичные объяснения (попытки современных людей объяснить какие-либо фольклорные явления) – это отдельная тема, лучше обращаться по этому поводу к людям, которые изучают современный городской фольклор или нетлор :)