Windows test

Author: ivanstepanovftw

llama.cpp

@@ -1481,7 +1481,10 @@ static std::vector<llama_vocab::id> llama_tokenize(const llama_vocab & vocab, co
 
 void llama_sample_softmax(struct llama_context * ctx, llama_token_data_array * candidates) {
     printf("llama_sample_softmax\n"); fflush(stdout);
+    printf("llama_sample_softmax candidates %p\n", (void*)candidates); fflush(stdout);
+    printf("llama_sample_softmax candidatessize %d\n", candidates->size); fflush(stdout);
     assert(candidates->size > 0);
+    printf("llama_sample_softmax 0\n"); fflush(stdout);
 
     const int64_t t_start_sample_us = ggml_time_us();
 

tests/test-sampling.cpp

@@ -39,7 +39,9 @@ void test_top_k(const std::vector<float> & probs,
     fflush(stdout);
     llama_sample_softmax(nullptr, &candidates_p);
     DUMP(&candidates_p);
+    fflush(stdout);
     llama_sample_top_k(nullptr, &candidates_p, k);
+    fflush(stdout);
     DUMP(&candidates_p);
     fflush(stdout);